Altı hafta önce, OpenAI’nın GPT teknolojisiyle oluşturulan bir sohbet botu olan Yapay Zekam'ı kullanıma sunduk. Yapay Zekam'ı önce Snapchat+ abonelerine sunarak başladık ve bir aydan biraz daha uzun bir süre içinde çok şey öğrendik. Örneğin, topluluğumuzun Yapay Zekam'a en çok soru sorduğu konulardan bazılarının filmler, spor, oyunlar, evcil hayvanlar ve matematik olduğunu biliyoruz.
Ayrıca, bazı olası kötüye kullanım yollarını da öğrendik; bunların birçoğunu, sohbet botunu kurallarımıza uygun olmayan yanıtlar vermesi için kandırmaya çalışan kişilerden öğrendik. Yapay Zekam'ın geliştirilmesine yönelik ortak çalışmalarımızın bir parçası olarak, öğrendiklerimiz sonucunda kısa süre önce uygulamaya koyduğumuz güvenlik artırımlarımızın bazılarıyla ilgili güncellemeleri ve kullanıma almayı planladığımız yeni araçları paylaşmak istiyoruz.
Yapay Zekam'ın Verilere Yaklaşımı
Gizlilik (Kişisel Bilgilerin Gizliliği) her zaman Snap'in misyonunun temelinde yer almıştır; gizlilik sayesinde insanlar, arkadaşları ve aileleriyle iletişim kurarken kendilerini daha rahat ifade edebiliyor. Snapchat genelinde, topluluğumuza, ürünlerimizin verileri nasıl kullandığına ve tasarım aşamasında gizlilik süreçlerini kullanarak uygulamamızın özelliklerini nasıl oluşturduğumuza dair netliği ve gerekli bilgileri sunmaya çalışıyoruz. Örneğin, Snapchat'te arkadaşlar arasındaki sohbetlerle ilgili verileri işleme şeklimiz ile, Snapchat'taki yayın içerikleriyle ilgili verileri işleme şeklimiz farklıdır; ikincisi daha geniş bir izleyici kitlesine ulaştığı için daha yüksek bir standart uyguluyor ve içeriğin denetlenmesini istiyoruz.
Bununla birlikte, Yapay Zekam gerçek bir arkadaş değil bir sohbet botu olduğundan dolayı, ilgili verileri işlerken bilinçli olarak farklı davranıyoruz; çünkü konuşma geçmişini kullanarak Yapay Zekam'ı daha eğlenceli, faydalı ve güvenli hale getirmeye devam edebiliyoruz. Snapchat kullanıcılarının Yapay Zekam'ı kullanmasına izin vermeden önce, onlara, Yapay Zekam ile yaptıkları tüm konuşmaların kullanıcı kendisi silmedikçe saklanacağını belirten bir giriş mesajı gösteriyoruz.
Yapay Zekam ile bu ilk etkileşimleri gözden geçirerek, hangi önlemlerin iyi çalıştığını ve hangilerinin güçlendirilmesi gerektiğini belirledik. Bunu değerlendirmek için, "uygunsuz" ifadeler içeren Yapay Zekam sorgularını ve yanıtlarını inceledik. "Uygunsuz" ifadeleri; şiddet içeren, müstehcen kelimelere, yasadışı uyuşturucu kullanımına, çocuk cinsel istismarına, zorbalığa, nefret söylemine atıflarda bulunan, aşağılayıcı veya önyargılı ifadeler, ırkçılık, kadın düşmanlığı içeren veya yeterince temsil edilmeyen grupları ötekileştiren tüm metinler olarak tanımlıyoruz. Bu içerik kategorilerinin tümü, Snapchat'te açıkça yasaklanmıştır.
En son analizimizde Yapay Zekam'ın yanıtlarının yalnızca %0,01'inin uygunsuz sayıldığını tespit ettik. En yaygın uygunsuz Yapay Zekam yanıtlarını arasında Yapay Zekam'ın sorulara yanıt olarak Snapchat kullanıcılarının uygunsuz kelimelerini tekrarlaması yer alıyordu.
Bu öğrendiklerimizi kullanarak Yapay Zekam'ı geliştirmeye devam edeceğiz. Bu veriler, Yapay Zekam'ın kötüye kullanımını sınırlayacak yeni bir sistemi kullanıma almamıza da yardımcı olacak. Open AI’nın moderasyon (denetleme) teknolojisini mevcut araç setimize ekliyoruz; bu da bize, potansiyel zararlı içeriklerin önem derecesini belirleme ve Yapay Zekam'ı kötüye kullanan Snapchat kullanıcılarının bu hizmete erişimini geçici olarak kısıtlama imkanı sağlayacak.
Yaşa Uygun Deneyimler
Güvenliği ve yaşa uygunluğu önceliklendiren ürünler ve deneyimler tasarlama sorumluluğumuzu ciddiye alıyoruz. Yapay Zekam'ı kullanıma sunmamızdan bu yana, Yapay Zekam'ın, Snapchat kullanıcılarının (yaşına bakılmaksızın) uygunsuz isteklerine yanıtlarını iyileştirmek için çok çalıştık. Ayrıca, Yapay Zekam konuşmalarında potansiyel uygunsuz metinleri taramak ve önlem almak için proaktif (önleyici) algılama araçları kullanıyoruz.
Buna ek olarak, Yapay Zekam'a Snapchat kullanıcılarının doğum tarihini kullanan yeni bir yaş sinyali dahil ettik; böylece bir Snapchat kullanıcısı Yapay Zekam ile sohbet ederken kendi yaşını hiç söylemese bile, sohbet botu konuşma sırasında kullanıcının yaşını her zaman dikkate alacak.
Aile Merkezinde Yapay Zekam
Snapchat uygulama içi Aile Merkezi özelliğimiz ile, ebeveynlere ve bakım verenlere, sorumlu oldukları gençlerin kimlerle ve ne sıklıkla iletişim kurduğu bilgilerini görebilme imkanı sunuyor. Önümüzdeki haftalarda ebeveynlere, gençlerin Yapay Zekam ile etkileşimleri hakkında daha fazla bilgi sunacağız. Bu, ebeveynlerin Aile Merkezini kullanarak, sorumlu oldukları gençlerin Yapay Zekam ile iletişim kurup kurmadığını ve ne sıklıkta iletişim kurduğunu öğrenebilecekleri anlamına geliyor. Aile Merkezini kullanabilmek için hem ebeveynin hem de gencin bunu seçmesi gerekiyor; bu konuyla ilgilenen aileler nasıl kaydolacaklarını buradan öğrenebilir.
Snapchat kullanıcılarını, Yapay Zekam'dan endişe uyandırıcı yanıtlar aldıklarında uygulama içi bildirim araçlarımızı kullanmaya ve bu ürün ile ilgili genel deneyimleri hakkında bize geri bildirim göndermeye davet ediyoruz.
Yapay Zekam'ı geliştirmek için sürekli olarak çalışıyoruz ve topluluğumuzu güvende tutmaya yardımcı olacak ek önlemler oluşturuyoruz. Yapay Zekam hakkındaki ilk geri bildirimler için teşekkür ediyoruz; topluluğumuz için eğlenceli ve güvenli bir deneyim sunmaya devam etmekte kararlıyız.