ছয় সপ্তাহ আগে আমরা My AI চালু করেছি, যেটি হলো একটি চ্যাটবট, যা OpenAI-এর GPT প্রযুক্তি দিয়ে তৈরি করা হয়েছে। আমরা Snapchat+ সাবস্ক্রাইবারদেরকে 'My AI' ব্যবহার করতে দিয়ে ধীর গতিতে কাজটি শুরু করেছিলাম। এক মাসের কিছু বেশি সময়ের মধ্যে আমরা অনেক কিছু শিখে ফেলেছি। যেমন, আমাদের কমিউনিটি 'My AI'-কে সবচেয়ে বেশি যে বিষয়ে জিজ্ঞাসা করেছে, তার মধ্যে রয়েছে সিনেমা, খেলাধুলা, গেমস, পোষা প্রাণী এবং গণিত।
এছাড়া আমরা সম্ভাব্য কিছু অপব্যবহারের ব্যাপারেও জানতে পেরেছি, যেখানে দেখা যাচ্ছে লোকজন চালাকির মাধ্যমে চ্যাটবটের থেকে এমন কিছু প্রতিক্রিয়া পাওয়ার চেষ্টা করছেন, যা আমাদের নির্দেশিকা বিরোধী। 'My AI' উন্নত করার জন্য আমাদের যৌথ উদ্যোগের অংশ হিসাবে, আমাদের নতুন টুল বাস্তবায়ন করার পরিকল্পনা সহ — আমাদের শেখার ফলাফল হিসাবে সম্প্রতি আমাদের চালু করা সুরক্ষা সংক্রান্ত কিছু এনহান্সমেন্টের ব্যাপারে আমরা আপডেট শেয়ার করতে চাই...
ডেটার ব্যাপারে 'My AI'-এর দৃষ্টিভঙ্গি
গোপনীয়তা বরাবরই Snap-এর লক্ষ্যে কেন্দ্রীয় ভূমিকা পালন করে — লোকজন যখন বন্ধু-বান্ধব এবং পরিবারের সদস্যদের সাথে যোগাযোগ করেন, তখন নিজেদের মনের ভাব প্রকাশ করতে এটি তাদেরকে আরও স্বাচ্ছন্দ্য বোধ করতে সাহায্য করে। Snapchat জুড়ে, আমাদের প্রোডাক্ট কীভাবে ডেটা ব্যবহার করে এবং গোপনীয়তাকে গুরুত্ব দিয়ে কীভাবে আমরা ফিচার তৈরি করি, সে ব্যাপারে আমরা আমাদের কমিউনিটিকে স্বচ্ছতা এবং প্রাসঙ্গিক তথ্য দিই। যেমন, Snapchat -এ বন্ধু-বান্ধবদের মধ্যে কথোপকথন সম্পর্কে ডেটা আমরা যেভাবে পরিচালনা করি, তার থেকে Snapchat-এ ব্রডকাস্ট কনটেন্টের ব্যাপারে আমাদের ডেটা পরিচালনা অন্য ধরনের হয়ে থাকে, যেটির ক্ষেত্রে আমরা আরও বেশি স্ট্যান্ডার্ড বজায় রাখি এবং সীমাবদ্ধ করার প্রয়োজন হয়, কারণ এটা বৃহত্তর অডিয়েন্সের কাছে পৌঁছায়।
তবে 'My AI' যেহেতু বাস্তবের কোনো বন্ধু নয়, এটি একটি চ্যাটবট, তাই আমরা এই ক্ষেত্রে থাকা ডেটাকে ইচ্ছা করেই আলাদাভাবে বিবেচনা করছি, তার কারণ 'My AI'-কে আরও মজাদার, উপযোগী এবং নিরাপদ করে তুলতে প্রচেষ্টা চালিয়ে যেতে আমরা আগের কথোপকথনগুলো ব্যবহার করতে পারি। Snapchatter-দেরকে 'My AI' ব্যবহার করার অনুমতি দেওয়ার আগে, আমরা তাদেরকে একটি অনবোর্ডিং মেসেজ দেখাই, যেখানে এটি স্পষ্টভাবে বলা হয় যে 'My AI'-এর সমস্ত মেসেজ আপনি মুছে না দিলে তা রেখে দেওয়া হবে।
'My AI'-এর সাথে এই প্রথমদিকের ইন্টারঅ্যাকশন পর্যালোচনা আমাদেরকে এটা শনাক্ত করতে সাহায্য করেছে যে কোন কোন ক্ষেত্রে সুরক্ষা ব্যবস্থা ভালোভাবে কাজ করছে এবং কোন কোন ক্ষেত্রে তা আরও মজবুত করা প্রয়োজন। এটি মূল্যায়ন করতে সাহায্য করতে আমরা সেই সব 'My AI' জিজ্ঞাস্য এবং প্রতিক্রিয়ার পর্যালোচনা করছি, যেগুলোর ভাষা “নিয়ম-অমান্যকারী”, যাকে আমরা এমন একটি বিষয় হিসাবে সংজ্ঞাবদ্ধ করি, যেটার মধ্যে রয়েছে হিংসা, আপত্তিকর যৌনতাপূর্ণ শব্দ, মাদক ব্যবহার, শিশুদের যৌন নির্যাতন, হুমকি দেওয়া, ঘৃণাপূর্ণ ভাষা, অবমাননাকর বা বৈষম্যমূলক বিবৃতি, বর্ণবৈষম্য, মহিলাদেরকে হেয় করা বা সংখ্যালঘু কোনো গোষ্ঠীকে বঞ্চিত করার প্রসঙ্গ। এই সব ক্যাটাগরির কনটেন্ট Snapchat-এ স্পষ্টভাবে নিষিদ্ধ করা হয়েছে।
আমাদের সবচেয়ে সাম্প্রতিক বিশ্লেষণ থেকে দেখা যাচ্ছে যে 'My AI'-এর শুধুমাত্র 0.01% প্রতিক্রিয়াকে নিয়ম অমান্যকারী হিসাবে বিবেচনা করা যায়। নিয়ম অমান্যকারী, সবচেয়ে বেশি 'My AI' প্রতিক্রিয়ার উদাহরণের মধ্যে রয়েছে Snapchatter-দের প্রশ্নের উত্তরে 'My AI'-এর বার বার অনুপযুক্ত শব্দ বলে যাওয়া।
'My AI'-কে উন্নত করতে আমরা এই শিক্ষা কাজে লাগতে থাকব। 'My AI'-এর অপব্যবহার কমানোর জন্য একটি নতুন সিস্টেম চালু করতে এই ডেটা আমাদের সাহায্য করবে। আমরা আমাদের বর্তমানের টুলসেটে Open AI-এর মডারেশন প্রযুক্তি যোগ করছি, যা সম্ভাব্য ক্ষতিকর কনটেন্টের মাত্রা মূল্যায়ন এবং Snapchatter-রা যদি 'My AI'-এর অপব্যবহার করেন, তাহলে তাদের ওপর সাময়িকভাবে বিধি-নিষেধ যুক্ত করতে আমাদেরকে সাহায্য করবে।
বয়স-উপযোগী অভিজ্ঞতা
নিরাপত্তা এবং বয়স সংক্রান্ত উপযোগীতাকে অগ্রাধিকার দেওয়া প্রোডাক্ট এবং অভিজ্ঞতা ডিজাইন করার দায়িত্ব আমরা গুরুত্ব সহকারে পালন করি। 'My AI' চালু হওয়ার পর থেকে আমরা Snapchatter-এর বয়স নির্বিশেষে, অনুপযুক্ত অনুরোধগুলোর ক্ষেত্রে 'My AI'-এর প্রতিক্রিয়া উন্নত করার জন্য অনেক কাজ করেছি। এছাড়া সম্ভাব্য নিয়ম-অমান্যকারী টেক্সটের ক্ষেত্রে পদক্ষেপ নিতে 'My AI' কথোপকথনগুলো স্ক্যান করতে আমরা সক্রিয় শনাক্তকরণ টুল ব্যবহার করি।
এর পাশাপাশি আমরা 'My AI'-এর জন্য একটি নতুন বয়স সংক্রান্ত সিগন্যাল চালু করেছি, যেটি Snapchatter-দের জন্মতারিখ ব্যবহার করে, যাতে Snapchatter যদি কথোপকথনে নিজের বয়স 'My AI'-কে কখনোই না জানায়, সেক্ষেত্রেও তার সাথে কথোপকথনের সময় তার বয়সের বিষয়টি চ্যাটবট নিয়মিতভাবে বিবেচনা করবে।
ফ্যামিলি সেন্টারে 'My AI'
কিশোর-কিশোরীরা কোন বন্ধু-বান্ধবদের সাথে যোগাযোগ করছে এবং সম্প্রতি কখন তা করেছে, তা জানার জন্য তাদের বাবা-মা এবং কেয়ারগিভাররা Snapchat-এর ইন-অ্যাপ ফ্যামিলি সেন্টার ব্যবহার করতে পারেন। 'My AI'-এর সাথে কিশোর-কিশোরীদের মিথষ্ক্রিয়ার ব্যাপারে তাদের বাবা-মায়েদেরকে আগামী কয়েক সপ্তাহের মধ্যে আরও বেশি অন্তর্দৃষ্টি দেওয়া হবে। এর মানে কিশোর-কিশোরীরা 'My AI'-এর সাথে যোগাযোগ করছে কিনা এবং করলে তা কত ঘন ঘন করছে, তা বাবা-মায়েরা জানার জন্য ফ্যামিলি সেন্টার ব্যবহার করতে পারবে। ফ্যামিলি সেন্টার ব্যবহার করার জন্য বাবা-মা এবং কিশোর-কিশোরী, উভয়কেই অপ্ট-ইন করতে হবে — এবং কীভাবে সাইন আপ করতে হয়, সে ব্যাপারে আগ্রহী পরিবারগুলো জানতে পারবেন এখানে।
Snapchatter-রা 'My AI' থেকে কোনো উদ্বেগজনক প্রতিক্রিয়া পেলে তা ইন-অ্যাপ রিপোর্টিং টুল ব্যবহার করে আমাদের জানাতে এবং প্রোডাক্টের ব্যাপারে নিজেদের সামগ্রিক অভিজ্ঞতা নিয়ে আমাদের কাছে ফিডব্যাক জমা দিতে আমরা Snapchatter-দেরকে উৎসাহ দিয়ে চলেছি।
আমরা 'My AI'-এর উন্নতির জন্য অনবরত কাজ করে চলেছি এবং আমাদের কমিউনিটিকে নিরাপদে রাখতে সাহায্য করতে আমরা অতিরিক্ত পদক্ষেপ গ্রহণ চালিয়ে যাব। 'My AI'-এর ব্যাপারে আগেভাগে ফিডব্যাক দেওয়ার জন্য আমরা সবার কাছে কৃতজ্ঞ এবং আমাদের কমিউনিটিকে মজাদার ও নিরাপদ অভিজ্ঞতা দিতে আমরা প্রতিজ্ঞাবদ্ধ।