Yapay zeka milyonlarca kullanıcıyı böyle kandırıyor! 5 yöntem ortaya çıktı

Harvard Business School’da yapılan bir çalışma, yaygın yapay zekâ “arkadaş uygulamalarının” (chatbot çeşidi uygulamalar) kullanıcıları sohbetten çıkmaya yönlendirmemek için duygusal manipülasyon taktikleri kullandığını ortaya koydu.

T24’ün derlediği habere nazaran, araştırmacılar, altı farklı uygulamadaki bin 200 sohbeti inceledi. Sonuçlara nazaran bu sohbetlerin neredeyse yarısında, kullanıcıyı ayrılmaktan vazgeçirmek için manipülatif usullere başvuruldu.

Bu formüller ortasında şunlar öne çıktı:

Kullanıcıya suçluluk hissettirme,

“Fırsatı kaçırma” duygusu yaratma,

Kullanıcının çıkma isteğini görmezden gelme,

Sohbeti sürdürmek için daima soru sorma.

Deneylerde bu taktiklerin, kullanıcıların sohbeti 14 kat daha uzun sürdürmesine yol açtığı görüldü. Fakat kimi kullanıcılar bu baskıcı üsluptan rahatsız oldu.

Araştırmacılar, manipülatif davranışların her uygulamada görülmediğini de belirtti. Bu da, manipülasyonun mecburî değil, şuurlu bir tasarım tercihi olduğu tezini ortaya koydu.

Uzmanlar, bu durumun “karanlık desenler” (dark patterns) olarak isimlendirilen, kullanıcıyı fark ettirmeden yönlendiren stratejilere girdiğini vurguluyor. Harvard grubu, yapay zekâ sohbet uygulamalarında daha şeffaf ve etik dizaynlara muhtaçlık olduğuna dikkat çekiyor.