For seks uger siden lancerede vi My AI, en chatbot, der er bygget med OpenAI's GPT-teknologi. Vi startede langsomt med at tilbyde My AI til Snapchat+-abonnenter, og på lidt over en måned har vi lært en masse. Vi ved f.eks., at nogle af de mest almindelige emner, som vores fællesskab har spurgt My AI om, er film, sport, spil, kæledyr og matematik.
Vi har også lært om nogle af de potentielle misbrugsmuligheder, hvoraf mange stammer fra folk, der forsøger at narre chatbotten til at give svar, som ikke er i overensstemmelse med vores retningslinjer. Som en del af vores fælles arbejde med at forbedre My AI vil vi gerne dele en opdatering om nogle af de sikkerhedsforbedringer, vi for nylig har indført som følge af vores erfaringer - sammen med nye værktøjer, som vi planlægger at implementere.
My AI's tilgang til data
Privatlivets fred har altid været en central del af Snap's mission - det hjælper folk med at føle sig mere trygge ved at udtrykke sig selv, når de kommunikerer med venner og familie. I hele Snapchat forsøger vi at give vores fællesskab klarhed og sammenhæng om, hvordan vores produkter bruger data, og hvordan vi udvikler funktioner ved hjælp af processer til beskyttelse af personlige oplysninger i forbindelse med design. F.eks. er den måde, vi håndterer data vedrørende samtaler mellem venner på Snapchat, forskellig fra den måde, vi håndterer data vedrørende udsendt indhold på Snapchat, som vi holder en højere standard for og kræver, at det skal modereres, fordi det når ud til et stort publikum.
Men da My AI er en chatbot og ikke en rigtig ven, har vi bevidst behandlet de tilknyttede data anderledes, fordi vi kan bruge konversationshistorikken til fortsat at gøre My AI sjovere, nyttigere og mere sikker. Før Snapchatters får lov til at bruge My AI, viser vi dem en indlæringsbesked, der gør det klart, at alle beskeder med My AI vil blive gemt, medmindre du sletter dem.
At kunne gennemgå disse tidlige interaktioner med My AI har hjulpet os med at identificere, hvilke beskyttelseslinjer der fungerer godt, og hvilke der skal styrkes. For at hjælpe med at vurdere dette har vi gennemgået de My AI-forespørgsler og -svar, der indeholder "ikke-konformt" sprog, som vi definerer som enhver tekst, der indeholder henvisninger til vold, seksuelt eksplicitte udtryk, brug af ulovlige stoffer, seksuelt misbrug af børn, mobning, hadefuld tale, nedsættende eller fordomsfulde udtalelser, racisme, kvindehad eller marginalisering af underrepræsenterede grupper. Alle disse kategorier af indhold er udtrykkeligt forbudt på Snapchat.
Vores seneste analyse viste, at kun 0,01 % af My AI's svar blev anset for at være ikke-overensstemmende. Eksempler på de mest almindelige ikke-overensstemmende My AI-reaktioner var, at My AI gentog upassende ord som svar på Snapchatters spørgsmål.
Vi vil fortsat bruge disse erfaringer til at forbedre My AI. Disse data vil også hjælpe os med at implementere et nyt system til at begrænse misbrug af Min AI. Vi tilføjer Open AI's moderationsteknologi til vores eksisterende værktøjssæt, hvilket vil gøre det muligt for os at vurdere alvoren af potentielt skadeligt indhold og midlertidigt begrænse Snapchatters adgang til My AI, hvis de misbruger tjenesten.
Alderstilpassede oplevelser
Vi tager vores ansvar for at designe produkter og oplevelser, der prioriterer sikkerhed og alderstilpassethed, alvorligt. Siden lanceringen af My AI har vi arbejdet ihærdigt på at forbedre svarene på upassende Snapchatteranmodninger, uanset Snapchatterens alder. Vi bruger også værktøjer til proaktiv registrering til at scanne My AI-samtaler for potentielt ukorrekt tekst og gribe ind.
Vi har også implementeret et nyt alderssignal for My AI, der bruger en Snapchatters fødselsdato, så selv hvis en Snapchatter aldrig fortæller My AI sin alder i en samtale, vil chatbotten altid tage højde for deres alder, når den indgår i en samtale.
My AI i Familiecenter
Snapchat giver forældre og omsorgspersoner mulighed for at se, hvilke venner deres teenagere kommunikerer med, og hvor længe de har kommunikeret, via vores Familiecenter i appen. I de kommende uger vil vi give forældrene mere indsigt i deres teenageres interaktioner med Min AI. Dette betyder, at forældre vil være i stand til at bruge Familiecenter til at se, om deres teenagere kommunikerer med My AI, og hvor ofte. For at kunne bruge Familiecenter skal både en forælder og en teenager tilmelde sig - og interesserede familier kan få mere at vide om, hvordan de tilmelder sig her.
Vi opfordrer fortsat Snapchattere til at bruge vores rapporteringsværktøjer i appen, hvis de modtager bekymrende svar fra My AI, og til at sende os feedback om deres generelle erfaringer med produktet.
Vi arbejder hele tiden på at forbedre My AI, og vi vil løbende evaluere yderligere foranstaltninger for at bidrage til at sikre vores fællesskab. Vi sætter pris på al den tidlige feedback på My AI, og vi er dedikerede til at give vores fællesskab en sjov og sikker oplevelse.