My AI-இலிருந்து ஆரம்பக் கற்றல்கள் மற்றும் புதிய பாதுகாப்பு மேம்பாடுகள்

ஆறு வாரங்களுக்கு முன்பு OpenAI-இன் GPT தொழில்நுட்பத்துடன் கட்டமைக்கப்பட்ட சாட்பாட்டான My AI ஐ அறிமுகப்படுத்தினோம். Snapchat + சந்தாதாரர்களுக்கு My AI ஐ மெதுவாக வழங்க தொடங்கினோம், மேலும் ஒரு மாதத்தில், நாங்கள் நிறைய கற்றுக்கொண்டோம். உதாரணமாக, எங்கள் சமூலம் My AI-இடம் கேட்ட மிகப் பொதுவான தலைப்புகளில் அடங்குபவை திரைப்படங்கள், ஸ்போர்ட்ஸ், கேம்ஸ், செல்லப்பிராணிகளை மற்றும் கணிதம் என்பது எங்களுக்குத் தெரியும்.

தவறானப் பயன்பாட்டிற்கான சில சாத்தியங்களைப் பற்றியும் நாங்கள் கற்றுள்ளோம், எங்கள் வழிகாட்டுதல்களுக்கு இணங்காத பதில்களை வழங்க சாட்பாட்டை தந்திரமாக அணுக மக்கள் முயற்சிப்பதைப் பார்த்து நாங்கள் கற்றுள்ளோம். My AI ஐ மேம்படுத்துவதற்கு எங்கள் கூட்டு வேலைகளின் ஒரு பகுதியாக, எங்கள் கற்றலின் விளைவாக சமீபத்தில் நாங்கள் செய்த சில பாதுகாப்பு மேம்பாடுகள் மற்றும் நாங்கள் செயல்படுத்த திட்டமிட்டுள்ள புதிய கருவிகள். பற்றிய புதுப்பிப்பைப் பகிர்ந்து கொள்ள விரும்புகிறோம். 

தரவுக்கான My AI-இன் அணுகுமுறை

தனியுரிமை எப்போதும் Snap-இன் இயக்கத்தின் மையமாக இருந்து வருகிறது. — நண்பர்கள் மற்றும் குடும்பத்துடன் தொடர்புகொள்ளும் போது மக்கள் தங்களை வெளிப்படுத்திக்கொள்வதை இயல்பாக உணர உதவுகிறது. Snapchat முழுவதும், எங்கள் தயாரிப்புகள் தரவை எவ்வாறு பயன்படுத்டுகின்றன மற்றும் தனிப்பயநாக்க தனியுரிமை செயல்முறைகள் பயன்படுத்தி நாங்கள் எவ்வாறு அம்சங்களை உருவாக்குகிறோம் என்பது பற்றிய தெளிவு மற்றும் சூழலை எங்கள் சமூகத்திற்கு வழங்க நாங்கள் முயலுகிறோம். எடுத்துக்காட்டாக, Snapchat இல் நண்பர்களுக்கிடையேயான உரையாடல்கள் தொடர்பான தரவை நாங்கள் கையாளும் விதம், Snapchat இல் ஒளிபரப்பு உள்ளடக்கம் தொடர்பான தரவை எவ்வாறு கையாள்வது என்பது வேறுபட்டது, அதை நாங்கள் உயர் தரத்தில் வைத்திருக்கிறோம், மேலும் இது அதிக பார்வையாளர்களை சென்றடைவதால் அதை மதிப்பிட வேண்டும்.

எனினும், My AI என்பது ஒரு சாட்பாட் தானே தவிர உயிருள்ள நண்பர் இல்லை என்பதால் அதனுடன் தொடர்புடை தரவை வேறுவிதமாக கையாள முயல்கிறோம், ஏனெனில் My AI-ஐ மிகவும் வேடிக்கையாகவும், பயனுள்ளதாகவும், பாதுகாப்பாகவும் மாற்ற, உரையாடல் வரலாற்றை எங்களால் பயன்படுத்த முடிகிறது. Snapchat பயனர்கள் My AI பயன்படுத்துவதற்கு முன், நாங்கள் பின்வரும் ஆன்போர்டிங் செய்தியை அவர்களுக்குக் காட்டுகிறோம், அதாவது நீங்கலாக நீக்கும் வரை My AI -உடனான அனைத்துச் செய்திகளும் தக்கவைக்கப்படும் என்பதைத் தெளிவுபடுத்தும் செய்திதான் அது.

My AI உடனான இந்த ஆரம்பகால தொடர்புகளை மதிப்பாய்வு செய்ய முடிந்ததால், எந்த பாதுகாப்புகள் சிறப்பாகச் செயல்படுகின்றன மற்றும் எவை வலுவாக இருக்க வேண்டும் என்பதைக் கண்டறிய எங்களுக்கு உதவியது. இதை மதிப்பிடுவதற்கு உதவ, 'இணங்காத' மொழியைக் கொண்டுள்ள My AI கேள்விகள் மற்றும் பதில்களை மதிப்பாய்வு செய்து வருகிறோம். வன்முறை, பாலியலை வெளிப்படுத்தும் சொற்கள், சட்டவிரோத போதைப்பொருள் பயன்பாடு, குழந்தை பாலியல் துஷ்பிரயோகம், கொடுமைப்படுத்துதல், வெறுப்புப் பேச்சு, இழிவான அல்லது பக்கச்சார்பான அறிக்கைகள், இனவெறி, பெண் வெறுப்பு அல்லது குறைவான பிரதிநிதித்துவம் கொண்ட குழுக்களை புறக்கணிப்பது போன்றவற்றைக் குறிக்கும் எந்தவொரு உரையையும் நாங்கள் 'இணங்காத மொழி' என வரையறுக்கிறோம். Snapchat இல் இந்த அனைத்து வகை உள்ளடக்கங்களும் வெளிப்படையாகத் தடை செய்யப்படுகின்றன.

எங்கள் மிகச் சமீபத்திய பகுப்பாய்வு My AIஇன் பதில்களில் 0.01% மட்டுமே இணங்காதவை எனக் கண்டறிந்தது. மிகவும் பொதுவான இணங்காத My AI பதில்களின் எடுத்துக்காட்டுகளில் அடங்குவது Snapchat பயனர்களின் கேள்விகளுக்கு பதிலாக My AI பொருத்தமற்ற வார்த்தைகளைத் திருப்பிச் சொல்வது.

My AI ஐ மேம்படுத்துவதற்கு இந்தக் கற்றலைப் பயன்படுத்துவதை நாங்கள் தொடர்ந்து செய்வோம். இந்தத் தரவு My AI-ஐத் தவறாகப் பயன்படுத்துவதை கட்டுப்படுத்த ஒரு புதிய அமைப்பை பயன்படுத்த எங்களுக்கு உதவும். தற்போதுள்ள எங்களின் கருவித்தொகுப்பில் Open AI இன் மட்டுப்படுத்தும் தொழில்நுட்பத்தைச் சேர்க்கிறோம், இது தீங்கு விளைவிக்கும் உள்ளடக்கத்தின் தீவிரத்தை மதிப்பிடவும், Snapchat பயனர்கள் சேவையைத் தவறாகப் பயன்படுத்தினால், My AI-ஐ அவர்கள் அணுகுவதைத் தற்காலிகமாகத் தடுக்கவும் அனுமதிக்கும்.

வயதுக்குப் பொருத்தமான அனுபவங்கள் 

பாதுகாப்பு மற்றும் வயதுக்குப் பொருந்தும் முறையில் முன்னுரிமை தரும் தயாரிப்புகள் மற்றும் அனுபவங்களை வடிவமைக்க வேண்டிய எங்களின் பொறுப்பை நாங்கள் தீவிரமாக கருதிகிறோம். My AI ஐ அறிமுகப்படுத்தியதிலிருந்து, Snapchat பயனரின் வயது என்னவாக இருந்தாலும் பொருத்தமற்ற Snapchat பயனரின் கோரிக்கைகளுக்கு அதன் பதில்களை மேம்படுத்த நாங்கள் தீவிரமாக பணியாற்றியுள்ளோம். My AI உரையாடல்களில் சாத்தியமான இணங்காத உரை இருப்பதைக் கண்டறிய ஸ்கேன் செய்து நடவடிக்கை எடுக்க முன்கூட்டியே கண்டறியும் கருவிகளைப் பயன்படுத்துகிறோம்.

Snapchat பயனரின் பிறந்த தேதியைப் பயன்படுத்தி My AIக்கான புதிய வயது சிக்னலையும் நாங்கள் செயல்படுத்தியுள்ளோம், அதனால் Snapchat பயனர் ஒரு உரையாடலில் MyAI க்கு அவர்களின் வயதைக் கூறவில்லை என்றாலும், உரையாடலில் ஈடுபடும் போது சாட்பாட் தொடர்ந்து அவர்களின் வயதைக் கருத்தில் கொள்ளும்.

குடும்ப மையத்தில் My AI

Snapchat பெற்றோர்கள் மற்றும் பாதுகாவலர்களுக்கு அவர்களின் டீனேஜர்கள் எந்த நண்பர்களுடன் தொடர்பு கொள்கிறார்கள் மற்றும் எவ்வளவு சமீபத்தில் என்பதை செயலியில் உள்ள குடும்ப மையம் மூலம் பார்க்கும் வசதியை வழங்குகிறது. வரும் வாரங்களில் My AI மூலம் பெற்றோர்களுக்கு அவர்களின் டீனேஜரின் கலந்துரையாடல்களுக்கான கூடுதல் உள்நுணுக்கத்தை நாங்கள் வழங்குவோம். இதன் பொருள் பெற்றோர், குடும்ப மையத்தைப் பயன்படுத்தி தங்கள் டீனேஜர்கள் My AI உடன் உரையாடுகிறார்களா மற்றும் எவ்வளவு அடிக்கடி அவ்வாறு செய்கிறார்கள் என்பதைப் பார்க்கலாம். குடும்ப மையத்தைப் பயன்படுத்த பெற்றோர் மற்றும் டீஜெனர் அதைத் தேர்வு செய்ய வேண்டும் — மேலும் ஆர்வமுள்ள குடும்பங்கள் எப்படி பதிவுசெய்வது என்பது குறித்து இங்கு தெரிந்துகொள்ளலாம்.

My AI இலிருந்து ஏதேனும் கவனிக்கப்படவேண்டிய பதில்களைப் பெற்றால், எங்கள் செயலியில் உள்ள புகாரளிப்பதற்கான கருவிகளைப் பயன்படுத்தவும், தயாரிப்பு தொடர்பான அவர்களின் ஒட்டுமொத்த அனுபவங்களைப் பற்றி எங்களிடம் கருத்துக்களைச் சமர்ப்பிக்கவும் Snapchat பயனர்களை நாங்கள் தொடர்ந்து ஊக்குவிக்கிறோம்.

My AI ஐ மேம்படுத்துவதற்கு நாங்கள் தொடர்ந்து பணியாற்றி வருகிறோம், மற்றும் எங்கள் சமூகத்தைப் பாதுகாப்பாக வைத்திருக்க உதவ கூடுதல் நடவடிக்கைகளை நாங்கள் தொடர்ந்து மதிப்பாய்வு செய்கிறோம். My AI மீதான அனைத்து ஆரம்பகால கருத்துக்களையும் நாங்கள் பாராட்டுகிறோம் மற்றும் நமது சமூகத்திற்கு வேடிக்கையான மற்றும் பாதுகாப்பான அனுபவத்தை வழங்க நாங்கள் கடமைப்பட்டுள்ளோம்.