Character AI davasında yeni gelişme
ABD merkezli Character AI, kullanıcıların yapay zekâ chatbotlarıyla etkileşimde bulunmasını sağlayan bir platform olarak gündemde. Şirket, bir gencin intiharıyla ilgili açılan davada, tabir özgürlüğünü garanti eden Birinci Değişiklik’e dayanarak davanın düşürülmesini talep etti.
2024 yılının Ekim ayında Megan Garcia, oğlu Sewell Setzer III’ün intiharı üzerine Florida Orta Bölge Mahkemesi’nde Character AI’ya dava açtı. Garcia, oğlunun platformda “Dany” isimli bir chatbot ile güçlü bir duygusal bağ kurduğunu ve gerçek hayattan kopmaya başladığını sav etti. Bu trajik olay sonrası Character AI, hizmet şartlarını ihlal eden sohbetlere karşı güvenlik tedbirlerini artırdığını duyurdu. Lakin Garcia, kıssa anlatımı ve şahsî anekdotlar üzere özelliklerin kaldırılması da dahil olmak üzere daha fazla düzenleme talep ediyor.
Character AI’nın avukatları, kullanıcıların platformdaki sözlerinin Birinci Değişiklik kapsamında olduğunu ve bu tıp tabirler nedeniyle şirketin sorumlu tutulamayacağını belirtti. Şirket ayrıyeten, davanın başarılı olması durumunda hem kendi işleyişini hem de yapay zekâ kesimini önemli biçimde etkileyecek bir “soğutucu etki” yaratacağını söz etti.
Davada, Character AI’nın yanı sıra, şirketin destekçisi olan Alphabet de sanık olarak yer alıyor. Şirket, kullanıcılarının güvenliğini artırmak ismine gençler için başka bir yapay zekâ modeli, hassas içeriklere yönelik blokajlar ve botların gerçek olmadığını vurgulayan ihtarlar üzere tedbirler aldığını belirtti. Buna karşın, öbür davalar da Character AI’yı reşit olmayan kullanıcılara yönelik uygunsuz içerik sağlamakla suçluyor.
Çin yapay zekâ standartları komitesi kuruyor
Texas Başsavcısı Ken Paxton ise Aralık 2024’te, çocukların çevrim içi saklılık ve güvenliğiyle ilgili maddeleri ihlal ettiği savıyla Character AI ve öteki 14 teknoloji şirketine yönelik bir soruşturma başlattı. Paxton, bu cins soruşturmaların, toplumsal medya ve yapay zekâ şirketlerinin çocukları sömürüye karşı koruyan maddelere uymasını sağlamak için kritik olduğunu belirtti.
Yapay zekâ dostluk uygulamalarının süratle büyüyen bu dalı, uzmanlar tarafından dikkatle izleniyor. Uzmanlar, bu cins uygulamaların yalnızlık ve korku üzere hisleri artırabileceğinden tasa duyuyor. 2021’de Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, geçtiğimiz yıllarda 2,7 milyar dolarlık bir “ters satın alma” muahedesiyle dikkat çekmişti.
