ఆరు వారాల క్రితం, మేము OpenAI యొక్క GPT సాంకేతికతతో నిర్మించబడిన My AI అనే చాట్‌బాట్‌ను విడుదల చేసాము. మేము Snapchat+ సబ్‌స్క్రైబర్‌లకు My AIని అందించడం నెమ్మదిగా ప్రారంభించాము మరియు ఒక నెలలోపు మేము చాలా నేర్చుకున్నాము. ఉదాహరణకు, చలనచిత్రాలు, క్రీడలు, ఆటలు, పెంపుడు జంతువులు మరియు గణితాన్ని గురించి మా కమ్యూనిటీ My AI ని అడిగిన కొన్ని సాధారణ అంశాల గురించి మాకు తెలుసు.
దుర్వినియోగానికి సంబంధించిన కొన్ని సంభావ్యత గురించి కూడా మేము తెలుసుకున్నాము, మా మార్గదర్శకాలకు అనుగుణంగా లేని ప్రతిస్పందనలను అందించడానికి చాట్‌బాట్‌ను మోసగించడానికి ప్రయత్నిస్తున్న వ్యక్తుల నుండి మేము నేర్చుకున్నాము. My AI ని మెరుగుపరచడానికి మా ఉమ్మడి పనిలో భాగంగా, మేము నేర్చుకున్న విషయాలకు ఫలితంగా మేము ఇటీవల ఏర్పాటు చేసిన కొన్ని భద్రతా మెరుగుదలలపై అప్డేట్ షేర్ చేయాలనుకుంటున్నాము — మేము అమలు చేయడానికి ప్లాన్ చేస్తున్న కొత్త సాధనాలతో పాటు.
డేటాకు My AI యొక్క అప్రోచ్
Snap మిషన్‌కు గోప్యత ఎల్లప్పుడూ ప్రధానమైనది - ఫ్రెండ్స్ మరియు కుటుంబ సభ్యులతో కమ్యూనికేట్ చేస్తున్నప్పుడు వ్యక్తులు తమ భావాలను వ్యక్తీకరించడంలో మరింత సౌకర్యవంతంగా ఉండటానికి ఇది సహాయపడుతుంది. Snapchat అంతటా, మా ఉత్పత్తులు డేటాను ఎలా ఉపయోగిస్తాయి మరియు గోప్యత-వారీ-డిజైన్ ప్రక్రియలను ఉపయోగించి మేము ఫీచర్లను ఎలా నిర్మిస్తాము అనే దాని గురించి మా కమ్యూనిటీకి స్పష్టత మరియు సందర్భాన్ని అందించడానికి మేము ప్రయత్నిస్తాము. ఉదాహరణకు, Snapchat లో ఫ్రెండ్స్ మధ్య సంభాషణలకు సంబంధించిన డేటాను మేము నిర్వహించే విధానం, Snapchat లో ప్రసార కంటెంట్ కు సంబంధించిన డేటాను మేము ఎలా హ్యాండిల్ చేస్తాము అనే దానికి భిన్నంగా ఉంటుంది, దీనిని మేము ఉన్నత ప్రమాణాలకు కట్టుబడి ఉంటాము మరియు అది పెద్ద సంఖ్యలో ఆడియన్స్ కు చేరుతుంది కాబట్టి మోడరేట్ చేయాల్సిన అవసరం ఉంది.
అయినప్పటికీ, My AI అనేది చాట్‌బాట్ మరియు నిజమైన ఫ్రెండ్ కానందున, సంబంధిత డేటాను విభిన్నంగా పరిగణించడంలో మేము ఉద్దేశపూర్వకంగా ఉన్నాము, ఎందుకంటే My AI ని మరింత ఆహ్లాదకరంగా, ఉపయోగకరంగా మరియు సురక్షితంగా చేయడానికి మేము సంభాషణ హిస్టరీ ను ఉపయోగించడం కొనసాగించగలుగుతాము. Snap చాటర్‌లు My AI ని ఉపయోగించడానికి అనుమతించే ముందు, మీరు వాటిని డిలీట్ చేస్తే మినహా My AI తో ఉన్న అన్ని సందేశాలు అలాగే ఉంచబడతాయని అనే విషయాన్నీ క్లియర్ చేసే ఆన్‌బోర్డింగ్ సందేశాన్ని మేము వారికి చూపుతాము.
My AI తో ఈ ప్రారంభ పరస్పర చర్యలను సమీక్షించగలగడం వల్ల ఏ గార్డ్‌రెయిల్‌లు బాగా పని చేస్తున్నాయో మరియు వేటిని మరింత పటిష్టం చేయాల్సిన అవసరం ఉందని గుర్తించడంలో మాకు సహాయపడింది. దీన్ని అంచనా వేయడంలో సహాయపడటానికి, మేము My AI ప్రశ్నలు మరియు ప్రతిస్పందనల యొక్క సమీక్షలను నడుపుతున్నాము, వీటిలో "అనుగుణంగా లేని" భాష ఉంది, హింస, లైంగికంగా అసభ్యకరమైన పదాలు, అక్రమ మాదకద్రవ్యాల వినియోగం, పిల్లలపై లైంగిక వేధింపులు, బుల్లీయింగ్, విద్వేషపూరిత ప్రసంగం, అవమానకరమైన లేదా పక్షపాత ప్రకటనలు, జాత్యహంకారం, స్త్రీవివక్ష లేదా తక్కువ ప్రాతినిధ్యం వహించే సమూహాలకు సంబంధించిన సూచనలను కలిగి ఉన్న ఏదైనా వచనంగా మేము నిర్వచించాము. Snapchat లో ఈ కేటగిరీల కంటెంట్ మొత్తం స్పష్టంగా నిషేధించబడింది.
మా ఇటీవలి విశ్లేషణలో My AI యొక్క ప్రతిస్పందనలలో కేవలం 0.01% మాత్రమే అనుగుణంగా లేనివిగా పరిగణించబడ్డాయి. Snap చాటర్ల ప్రశ్నలకు ప్రతిస్పందనగా My AI అనుచిత పదాలను పునరావృతం చేయడం అత్యంత సాధారణ My AI అనుగుణంగా లేని ప్రతిస్పందన ఉదాహరణలు.
My AI ని మెరుగుపరచడానికి మేము ఈ నేర్చుకున్న విషయాలను ఉపయోగించడం కొనసాగిస్తాము. My AI దుర్వినియోగాన్ని పరిమితం చేయడానికి కొత్త సిస్టమ్‌ని అమలు చేయడంలో కూడా ఈ డేటా మాకు సహాయపడుతుంది. మేము ఇప్పటికే ఉన్న మా టూల్‌సెట్‌కి Open AI యొక్క మోడరేషన్ టెక్నాలజీని జోడిస్తున్నాము, ఇది సంభావ్య హానికరమైన కంటెంట్ యొక్క తీవ్రతను అంచనా వేయడానికి మరియు Snap చాటర్స్ సేవను దుర్వినియోగం చేస్తే, తాత్కాలికంగా My AI కి వారి యాక్సెస్‌ని పరిమితం చేయడానికి అనుమతిస్తుంది.
వయస్సుకి తగిన అనుభవాలు
భద్రత మరియు వయస్సు సముచితతకు ప్రాధాన్యతనిచ్చే ఉత్పత్తులు మరియు అనుభవాలను రూపొందించడానికి మేము మా బాధ్యతను తీవ్రంగా తీసుకుంటాము. My AI ని ప్రారంభించినప్పటి నుండి, మేము Snap చాటర్ల వయస్సుతో సంబంధం లేకుండా అనుచితమైన Snap చాటర్ అభ్యర్థనలకు దాని ప్రతిస్పందనలను మెరుగుపరచడానికి తీవ్రంగా కృషి చేసాము. సంభావ్యంగా అనుగుణంగా లేని టెక్స్ట్ కోసం My AI సంభాషణలను స్కాన్ చేయడానికి మరియు చర్య తీసుకోవడానికి మేము ప్రోయాక్టివ్ డిటెక్షన్ సాధనాలను కూడా ఉపయోగిస్తాము.
Snap చాటర్ పుట్టిన తేదీని ఉపయోగించి My AI కోసం మేము కొత్త ఏజ్ సిగ్నల్‌ను కూడా అమలు చేసాము, తద్వారా Snap చాటర్ వారి వయస్సును సంభాషణలో My AI కి చెప్పకపోయినా, సంభాషణలో పాల్గొనేటప్పుడు చాట్‌బాట్ వారి వయస్సును స్థిరంగా పరిగణనలోకి తీసుకుంటుంది
ఫ్యామిలీ సెంటర్ లో My AI
Snapchat మా ఇన్-యాప్ ఫ్యామిలీ సెంటర్ ద్వారా తల్లిదండ్రులు మరియు సంరక్షకులకు వారి యుక్తవయస్కులు ఏ ఫ్రెండ్స్ తో సంభాషన చేస్తున్నారు మరియు ఇటీవలి కాలంలో ఎప్పటినుండి వారితో సంభాషిస్తున్నారో అనే విజిబిలిటీని అందిస్తుంది. రాబోయే వారాల్లో, మేము My AI తో వారి టీనేజ్ పరస్పర చర్యల గురించి తల్లిదండ్రులకు మరింత అంతర్దృష్టిని అందిస్తాము. దీని అర్థం తల్లిదండ్రులు తమ టీనేజర్లు My AI తో కమ్యూనికేట్ చేస్తున్నారో లేదో మరియు ఎంత తరచుగా కమ్యూనికేట్ చేస్తున్నారో చూడటానికి ఫ్యామిలీ సెంటర్ ని ఉపయోగించగలరు. ఫ్యామిలీ సెంటర్ని ఉపయోగించడానికి, తల్లిదండ్రులు మరియు యుక్తవయస్కులు ఇద్దరూ ఎంచుకోవాలి — మరియు ఆసక్తి ఉన్న కుటుంబాలు ఇక్కడసైన్ అప్ చేయడం గురించి మరింత తెలుసుకోవచ్చు.
My AI నుండి ఏవైనా ప్రతికూల ప్రతిస్పందనలను అందుకుంటే మరియు ఉత్పత్తితో వారి మొత్తం అనుభవాల గురించి మాకు ఫీడ్ బాక్ సబ్మిట్ చేయడానికి మేము Snap చాటర్లను మా యాప్‌లో రిపోర్టింగ్ సాధనాలను ఉపయోగించమని ప్రోత్సహిస్తూనే ఉంటాము.
My AI ను మెరుగుపరచడానికి మేము నిరంతరం పని చేస్తున్నాము మరియు మా కమ్యూనిటీని సురక్షితంగా ఉంచడంలో సహాయపడటానికి మేము అదనపు చర్యలను నిరంతరం మూల్యాంకనం చేస్తాము. My AI కి సంబంధించిన అన్ని ముందస్తు ఫీడ్ బాక్ ను మేము అభినందిస్తున్నాము మరియు మా కమ్యూనిటీ కోసం ఆహ్లాదకరమైన మరియు సురక్షితమైన అనుభవాన్ని అందించడానికి మేము కట్టుబడి ఉన్నాము