ആറാഴ്ച മുമ്പ്, OpenAI-യുടെ GPT സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് നിർമ്മിച്ച My AI, എന്ന ചാറ്റ്ബോട്ട് ഞങ്ങൾ പുറത്തിറക്കി. Snapchat+ വരിക്കാർക്ക് My AI നൽകിക്കൊണ്ട് ഞങ്ങൾ പതുക്കെ ആരംഭിച്ചു, ഒരു മാസത്തിനുള്ളിൽ ഞങ്ങൾ ധാരാളം പഠിച്ചു. ഉദാഹരണത്തിന്, സിനിമകൾ, സ്പോർട്സ്, ഗെയിമുകൾ, വളർത്തുമൃഗങ്ങൾ, ഗണിതശാസ്ത്രം എന്നിവയെക്കുറിച്ച് ഞങ്ങളുടെ കമ്മ്യൂണിറ്റി My AI-യോട് ചോദിച്ച ഏറ്റവും സാധാരണമായ ചില വിഷയങ്ങൾ ഞങ്ങൾക്കറിയാം.
ദുരുപയോഗത്തിനുള്ള ചില സാധ്യതകളെക്കുറിച്ചും ഞങ്ങൾ പഠിച്ചു, അവയിൽ പലതും ഞങ്ങളുടെ മാർഗ്ഗനിർദ്ദേശങ്ങളുമായി പൊരുത്തപ്പെടാത്ത പ്രതികരണങ്ങൾ നൽകുന്നതിന് ചാറ്റ്ബോട്ടിനെ കബളിപ്പിക്കാൻ ശ്രമിക്കുന്ന ആളുകളിൽ നിന്ന് ഞങ്ങൾ പലതും പഠിച്ചു. My AI മെച്ചപ്പെടുത്തുന്നതിനുള്ള ഞങ്ങളുടെ സംയുക്ത പ്രവർത്തനത്തിന്റെ ഭാഗമായി, ഞങ്ങളുടെ പഠനങ്ങളുടെ ഫലമായി ഞങ്ങൾ അടുത്തിടെ ഏർപ്പെടുത്തിയ ചില സുരക്ഷാ മെച്ചപ്പെടുത്തലുകളെക്കുറിച്ചുള്ള ഒരു അപ്ഡേറ്റ് പങ്കിടാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു - ഒപ്പം ഞങ്ങൾ നടപ്പിലാക്കാൻ പദ്ധതിയിടുന്ന പുതിയ ഉപകരണങ്ങളെ കുറിച്ചും.
ഡാറ്റയോടുള്ള My AI-യുടെ സമീപനം
സ്വകാര്യത എല്ലായ്പ്പോഴും Snap-ന്റെ ദൗത്യത്തിന്റെ കേന്ദ്രബിന്ദുവാണ് - സുഹൃത്തുക്കളുമായും കുടുംബവുമായും ആശയവിനിമയം നടത്തുമ്പോൾ ആളുകൾക്ക് സ്വയം പ്രകടിപ്പിക്കുന്നത് കൂടുതൽ സുഖകരമായി തോന്നാൻ ഇത് ഇടയാക്കുന്നു. Snapchat-ൽ ഉടനീളം, ഞങ്ങളുടെ ഉൽപ്പന്നങ്ങൾ ഡാറ്റ എങ്ങനെ ഉപയോഗിക്കുന്നുവെന്നും സ്വകാര്യത-ബൈ-ഡിസൈൻ പ്രക്രിയകൾ ഉപയോഗിച്ച് ഞങ്ങൾ എങ്ങനെ സവിശേഷതകൾ നിർമ്മിക്കുന്നു എന്നതിനെക്കുറിച്ചും ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിക്ക് വ്യക്തതയും സന്ദർഭവും നൽകാൻ ഞങ്ങൾ ശ്രമിക്കുന്നു. ഉദാഹരണത്തിന്, Snapchat-ൽ സുഹൃത്തുക്കൾ തമ്മിലുള്ള സംഭാഷണങ്ങളുമായി ബന്ധപ്പെട്ട ഡാറ്റ ഞങ്ങൾ കൈകാര്യം ചെയ്യുന്ന രീതി Snapchat-ലെ പ്രക്ഷേപണ ഉള്ളടക്കവുമായി ബന്ധപ്പെട്ട ഡാറ്റ ഞങ്ങൾ എങ്ങനെ കൈകാര്യം ചെയ്യുന്നു എന്നതിൽ നിന്ന് വ്യത്യസ്തമാണ്, ഇത് ഞങ്ങൾ ഉയർന്ന നിലവാരത്തിൽ നിലനിർത്തുന്നു, മാത്രമല്ല ഇത് ഒരു വലിയ പ്രേക്ഷകരിലേക്ക് എത്തുന്നതിനാൽ മോഡറേറ്റ് ചെയ്യേണ്ടതുണ്ട്.
എന്നിരുന്നാലും, My AI ഒരു ചാറ്റ്ബോട്ടാണ്, ഒരു യഥാർത്ഥ സുഹൃത്തല്ല എന്നതിനാൽ, ബന്ധപ്പെട്ട ഡാറ്റയെ ഞങ്ങൾ ബോധപൂർവം വ്യത്യസ്തമായി കൈകാര്യം ചെയ്യുന്നു, കാരണം My AI തുടർന്നും കൂടുതൽ രസകരവും ഉപയോഗപ്രദവും സുരക്ഷിതവുമാക്കുന്നതിന് സംഭാഷണ ചരിത്രം ഉപയോഗിക്കാൻ ഞങ്ങൾക്ക് കഴിയും. My AI ഉപയോഗിക്കാൻ Snapchatterമാരെ അനുവദിക്കുന്നതിനുമുമ്പ്, നിങ്ങൾ അവ ഇല്ലാതാക്കിയില്ലെങ്കിൽ My AI ഉപയോഗിച്ചുള്ള എല്ലാ സന്ദേശങ്ങളും നിലനിർത്തുമെന്ന് വ്യക്തമാക്കുന്ന ഒരു ഓൺബോർഡിംഗ് സന്ദേശം ഞങ്ങൾ അവർരെ കാണിക്കുന്നു.
My AI-യുമായുള്ള ഈ ആദ്യകാല ഇടപെടലുകൾ അവലോകനം ചെയ്യാൻ കഴിയുന്നത് ഏതൊക്കെ ഗാർഡ് റെയിലുകൾ നന്നായി പ്രവർത്തിക്കുന്നുവെന്നും ഏതാണ് ശക്തിപ്പെടുത്തേണ്ടതെന്നും തിരിച്ചറിയാൻ ഞങ്ങളെ സഹായിച്ചു. ഇത് വിലയിരുത്താൻ സഹായിക്കുന്നതിന്, "അനുരൂപമല്ലാത്ത" ഭാഷ ഉൾക്കൊള്ളുന്ന My AI അന്വേഷണങ്ങളുടെയും പ്രതികരണങ്ങളുടെയും അവലോകനങ്ങൾ ഞങ്ങൾ നടത്തുന്നു, അതിക്രമം, ലൈംഗികമായി പ്രകടമായ പദങ്ങൾ, നിയമവിരുദ്ധമായ മയക്കുമരുന്ന് ഉപയോഗം, കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യൽ, ഭീഷണിപ്പെടുത്തൽ, വിദ്വേഷ പ്രസംഗം, അപകീർത്തികരമോ പക്ഷപാതപരമോ ആയ പ്രസ്താവനകൾ, വംശീയത, സ്ത്രീവിരുദ്ധത അല്ലെങ്കിൽ പാർശ്വവത്കരിക്കൽ എന്നിവയെക്കുറിച്ചുള്ള പരാമർശങ്ങൾ ഉൾക്കൊള്ളുന്ന ഏതെങ്കിലും വാചകമായി ഞങ്ങൾ നിർവചിക്കുന്നു. ഈ വിഭാഗത്തിലുള്ള ഉള്ളടക്കങ്ങളെല്ലാം Snapchat-ൽ വ്യക്തമായി നിരോധിച്ചിരിക്കുന്നു.
ഞങ്ങളുടെ ഏറ്റവും പുതിയ വിശകലനത്തിൽ My AI-യുടെ പ്രതികരണങ്ങളിൽ 0.01% മാത്രമേ അനുരൂപമല്ലാതായി കണക്കാക്കപ്പെട്ടിട്ടുള്ളൂ. ഏറ്റവും സാധാരണമായ അനുരൂപമല്ലാത്ത My AI പ്രതികരണങ്ങളുടെ ഉദാഹരണങ്ങളിൽ Snapchat ഉപയോക്താക്കളുടെ ചോദ്യങ്ങൾക്ക് മറുപടിയായി My AI അനുചിതമായ വാക്കുകൾ ആവർത്തിക്കുന്നത് ഉൾപ്പെടുന്നു.
My AI മെച്ചപ്പെടുത്തുന്നതിന് ഞങ്ങൾ ഈ പഠനങ്ങൾ ഉപയോഗിക്കുന്നത് തുടരും. My AI-യുടെ ദുരുപയോഗം പരിമിതപ്പെടുത്തുന്നതിന് ഒരു പുതിയ സംവിധാനം വിന്യസിക്കാനും ഈ ഡാറ്റ ഞങ്ങളെ സഹായിക്കും. ഞങ്ങളുടെ നിലവിലുള്ള ടൂൾസെറ്റിലേക്ക് ഓപ്പൺ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ മോഡറേഷൻ സാങ്കേതികവിദ്യ ഞങ്ങൾ ചേർക്കുന്നു, ഇത് ദോഷകരമായ ഉള്ളടക്കത്തിന്റെ കാഠിന്യം വിലയിരുത്താനും സേവനം ദുരുപയോഗം ചെയ്യുകയാണെങ്കിൽ സ്നാപ്പ്ചാറ്റർമാർക്ക് My AI-യിലേക്കുള്ള പ്രവേശനം താൽക്കാലികമായി നിയന്ത്രിക്കാനും ഞങ്ങളെ അനുവദിക്കും.
പ്രായത്തിന് അനുയോജ്യമായ അനുഭവങ്ങൾ
സുരക്ഷയ്ക്കും പ്രായത്തിനും മുൻഗണന നൽകുന്ന ഉൽപ്പന്നങ്ങളും അനുഭവങ്ങളും രൂപകൽപ്പന ചെയ്യുന്നതിനുള്ള ഞങ്ങളുടെ ഉത്തരവാദിത്തം ഞങ്ങൾ ഗൗരവമായി എടുക്കുന്നു. My AI ആരംഭിച്ചതു മുതൽ, ഒരു സ്നാപ്പ്ചാറ്ററുടെ പ്രായം കണക്കിലെടുക്കാതെ അനുചിതമായ സ്നാപ്പ്ചാറ്റർ അഭ്യർത്ഥനകളോടുള്ള പ്രതികരണങ്ങൾ മെച്ചപ്പെടുത്തുന്നതിന് ഞങ്ങൾ ഊർജ്ജസ്വലമായി പ്രവർത്തിച്ചു. My AI സംഭാഷണങ്ങൾ സ്കാൻ ചെയ്യാനും നടപടിയെടുക്കാനും ഞങ്ങൾ സജീവമായ കണ്ടെത്തൽ ഉപകരണങ്ങൾ ഉപയോഗിക്കുന്നു.
ഒരു സ്നാപ്പ്ചാറ്ററുടെ ജനനത്തീയതി ഉപയോഗിച്ച് My AI-നായി ഞങ്ങൾ ഒരു പുതിയ പ്രായ സിഗ്നലും നടപ്പാക്കിയിട്ടുണ്ട്, അതിനാൽ ഒരു സ്നാപ്പ്ചാറ്റർ ഒരിക്കലും ഒരു സംഭാഷണത്തിൽ My AI-യോട് അവരുടെ പ്രായം പറയുന്നില്ലെങ്കിലും, സംഭാഷണത്തിൽ ഏർപ്പെടുമ്പോൾ ചാറ്റ്ബോട്ട് അവരുടെ പ്രായം സ്ഥിരമായി പര്യാലോചിക്കും.
കുടുംബ കേന്ദ്രത്തിൽ My AI
ഞങ്ങളുടെ ഇൻ-ആപ്പ് കുടുംബ കേന്ദ്രം വഴി, കൗമാരക്കാർ ഏതൊക്കെ സുഹൃത്തുക്കളുമായി ആശയവിനിമയം നടത്തുന്നു, എത്ര അടുത്തിടെയാണ്, മാതാപിതാക്കൾക്കും രക്ഷകർത്താക്കൾക്കും Snapchat ദൃശ്യപരത വാഗ്ദാനം ചെയ്യുന്നു. വരും ആഴ്ചകളിൽ, My AI-യുമായുള്ള കൗമാരക്കാരുടെ ഇടപെടലുകളെക്കുറിച്ച് മാതാപിതാക്കൾക്ക് കൂടുതൽ ഉൾക്കാഴ്ച ഞങ്ങൾ നൽകും. ഇതിനർത്ഥം, കൗമാരക്കാർ My AI-യുമായി ആശയവിനിമയം നടത്തുന്നുണ്ടോ, എത്ര ഇടവിട്ട് എന്നറിയാൻ മാതാപിതാക്കൾക്ക് കുടുംബ കേന്ദ്രം ഉപയോഗിക്കാൻ കഴിയും. കുടുംബ കേന്ദ്രം ഉപയോഗിക്കുന്നതിന്, ഒരു രക്ഷിതാവും ഒപ്പം കൗമാരക്കാരനും തിരഞ്ഞെടുക്കേണ്ടതുണ്ട് - താൽപ്പര്യമുള്ള കുടുംബങ്ങൾക്ക് എങ്ങനെ സൈൻ അപ്പ് ചെയ്യാമെന്നതിനെക്കുറിച്ച് ഇവിടെകൂടുതലറിയാൻ കഴിയും.
My AI-ൽ നിന്ന് എന്തെങ്കിലും പ്രതികരണങ്ങൾ ലഭിക്കുകയാണെങ്കിൽ ഞങ്ങളുടെ ഇൻ-ആപ്പ് റിപ്പോർട്ടിംഗ് ടൂളുകൾ ഉപയോഗിക്കാനും ഉൽപ്പന്നവുമായുള്ള അവരുടെ മൊത്തത്തിലുള്ള അനുഭവങ്ങളെക്കുറിച്ച് ഞങ്ങൾക്ക് ഫീഡ്ബാക്ക് സമർപ്പിക്കാനും ഞങ്ങൾ Snapchat-മാരെ പ്രോത്സാഹിപ്പിക്കുന്നത് തുടരുന്നു.
My AI മെച്ചപ്പെടുത്തുന്നതിന് ഞങ്ങൾ നിരന്തരം പ്രവർത്തിക്കുന്നു, ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിയെ സുരക്ഷിതമായി നിലനിർത്താൻ സഹായിക്കുന്ന അധിക നടപടികൾ ഞങ്ങൾ തുടർച്ചയായി വിലയിരുത്തും. My AI-യെക്കുറിച്ചുള്ള ആദ്യകാല ഫീഡ്ബാക്കിനെ ഞങ്ങൾ അഭിനന്ദിക്കുന്നു, ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിക്ക് രസകരവും സുരക്ഷിതവുമായ അനുഭവം നൽകാൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ്.