Anim na linggo na ang nakakaraan, inilunsad namin ang My AI, isang chatbot na binuo gamit ang GPT technology ng OpenAI. Dahan-dahan kaming nagsimula sa pagbibigay ng My AI sa mga subscriber ng Snapchat+ at, pagkallipas lang ng isang buwan, marami na tayong natutunan. Halimbawa, alam namin na kasama sa ilan sa mga pinakakaraniwang paksa na itinanong ng ating komunidad sa My AI ang mga pelikula, sports, laro, alagang hayop, at math.
Nalaman din namin ang tungkol sa ilang posibleng maling paggamit nito, na marami sa mga nalaman namin ay mula sa mga taong sinusubukang linlangin ang chatbot na magbigay ng mga tugon na hindi sumusunod sa aming guidelines. Bilang bahagi ng aming joint work para mapahusay ang My AI, gusto naming magbahagi ng update tungkol sa ilang pagpapahusay ng kaligtasan na ipinatupad namin kamakailan bilang resulta ng aming mga natutunan—kasama ang mga bagong tool na plano naming ilunsad.
Diskarte sa Data ng My AI
Privacy ang palaging nasa sentro ng misyon ng Snap—tinutulungan nito ang mga tao na maging mas komportable sa pagpapahayag ng kanilang mga sarili kapag nakikipagkomunikasyon sa mga kaibigan at kapamilya. Sa buong Snapchat, sinusubukan naming bigyan ang aming komunidad ng malinaw na konteksto tungkol sa kung paano gumagamit ng data ang aming mga produkto at kung paano kami bumubuo ng mga feature gamit ang mga proseso na idinisenyo batay sa privacy. Halimbawa, naiiba ang paraan ng pangangasiwa namin sa data na nauugnay sa mga pag-uusap ng magkakaibigan sa Snapchat sa paraan ng pangangasiwa namin sa data na nauugnay sa broadcast content sa Snapchat, kung saan mayroon kaming mas mataas na pamantayan at kinakailangang baguhin dahil mas malaking audience ang naaabot nito.
Gayunpaman, dahil ang My AI ay isang chatbot at hindi isang totoong kaibigan, sinadya naming gawing naiiba ang pangangasiwa ng nauugnay na data, dahil nagagawa naming gamitin ang history ng pag-uusap para patuloy na gawing mas nakakaaliw, mas kapaki-pakinabang, at mas ligtas ang My AI. Bago pahintulutan ang mga Snapchatter na gamitin ang My AI, nagpapakita kami sa kanila ng isang onboarding message na nagpapaliwanag na pananatilihin ang lahat ng message sa My AI maliban kung buburahin mo ang mga ito.
Nakatulong sa amin ang pagsusuri ng mga naunang pakikipag-ugnayan sa My AI para matukoy kung aling mga guardrail ang gumagana nang maayos at kung alin ang dapat pang patatagin. Para tulungang suriin ito, nagsasagawa kami ng mga pagsusuri ng mga tanong at tugon sa My AI na naglalaman ng "hindi sumusunod" na wika, na binigyang kahulugan namin bilang anumang text na naglalaman ng mga pagbanggit sa karahasan, mga salitang may sekswal na kahulugan, ipinagbabawal na paggamit ng droga, sekswal na pang-aabuso ng bata, bullying, mapoot na pananalita, mapanira o may kinikilingang pahayag, racism, misogyny, o pag-marginalize ng mga underrepresented na grupo. Tahasang ipinagbabawal sa Snapchat ang lahat ng kategoryang ito ng content.
Nakita sa pinakabago naming analysis na 0.01% lang ng mga tugon ng My AI ang itinuturing na hindi sumusunod. Kasama sa mga halimbawa ng mga pinakakaraniwang tugon ng My AI na hindi sumusunod ang pagpapaulit-ulit ng My AI ng mga hindi angkop na salita bilang tugon sa mga tanong ng mga Snapchatter.
Ipagpapatuloy namin ang paggamit ng mga natutunang ito para mapahusay ang My AI. Tutulungan din kami ng data na ito na mag-deploy ng bagong sistema para limitahan ang maling paggamit ng My AI. Idinadagdag namin ang moderation technology ng Open AI sa aming kasalukuyang toolset, na nagbibigay-daan sa aming masuri ang kalubhaan ng posibleng mapaminsalang content at pansamantalang limitahan ang access ng mga Snapchatter sa My AI kung ginamit nila nang mali ang serbisyo.
Mga Karanasan na Angkop sa Edad
Sineseryoso namin ang aming responsibilidad na magdisenyo ng mga produkto at karanasan na nagbibigay ng priyoridad sa kaligtasan at pagiging angkop sa edad. Simula noong ilunsad namin ang My AI, talagang sinikap naming mapahusay ang mga tugon nito sa mga hindi angkop na kahilingan ng mga Snapchatter, anuman ang edad ng isang Snapchatter. Gumagamit din kami ng mga proactive detection tool para i-scan ang mga pag-uusap sa My AI para matukoy ang mga posibleng hindi sumusunod na text at umaksyon.
Nagpatupad din kami ng makabagong signal para sa My AI na gumagamit ng petsa ng kapanganakan ng isang Snapchatter, para kahit na hindi banggitin ng isang Snapchatter sa My AI ang kanyang edad sa isang pag-uusap, patuloy na maisasaalang-alang ng chatbot ang kaniyang edad kapag nakikilahok sa isang pag-uusap.
My AI sa Family Center
Nag-aalok ang Snapchat sa mga magulang at tagapangalaga ng visibility sa kung sinong mga kaibigan ang kinakausap ng kanilang mga teenager, at kung kailan ang huli, sa pamamagitan ng aming in-app na Family Center. Sa mga paparating na linggo, bibigyan namin ang mga magulang ng higit pang insight sa mga pakikipag-ugnayan sa My AI ng kanilang mga teenager. Ibig sabihin nito, magagamit ng mga magulang ang Family Center para makita kung nakikipagkomunikasyon ang kanilang mga teenager sa My AI, at kung gaano kadalas. Para magamit ang Family Center, kailangang mag-opt in ng magulang at kanyang teenager—at puwede pang matuto ang mga interesadong pamilya tungkol sa kung paano mag-sign up dito.
Patuloy naming hinihikayat ang mga Snapchatter na gamitin ang aming mga in-app na tool sa pag-uulat kung nakatanggap sila ng anumang nakakabahalang tugon mula sa My AI at magsumite sa amin ng feedback tungkol sa kanilang pangkalahatang karanasan sa produkto.
Patuloy kaming nagsisikap na mapahusay ang My AI, at ipagpapatuloy namin ang pagsusuri ng mga karagdagang hakbang para tumulong na mapanatiling ligtas ang ating komunidad. Pinapahalagahan namin ang lahat ng naunang feedback tungkol sa My AI, at nakatuon kami sa pagbibigay ng isang nakakaaliw at ligtas na karanasan sa ating komunidad.