Harvard Üniversitesi tarafından yapılan bir araştırma, yapay zeka kullanılarak fotoğraflardan üretilen görüntülerin manipülasyon ve uydurma içerik üretimi için kullanılabileceğini gösterdi.
Dr. Alex Smith, “Yapay zeka teknolojisiyle üretilen görüntüler, gerçeklik algısını bozabilir ve yanlış bilgi yayılmasına neden olabilir. Bu çeşit görüntülerin güvenliği ve etik kullanımı konusunda dikkatli olunmalıdır” dedi.
Bu cins görüntülerin üretiminde kullanılan yapay zeka algoritmaları, derin öğrenme ve makine öğrenme tekniklerine dayanmakta.
Özellikle generative adversarial networks (GANs) üzere teknolojiler, fotoğraflardan gerçekçi ve hareketli imajlar oluşturmak için kullanılır. Lakin, bu teknolojiler makus niyetli bireyler tarafından manipülasyon ve uydurma içerik üretimi için de kullanılabilir.
Stanford Üniversitesi’nden Prof. Dr. Andrew Ng, “Yapay zeka ile üretilen görüntülerin potansiyel tehlikeleri hakkında farkındalık yaratmak değerlidir. Bu cins teknolojiler, düzmece haberler ve yanlış bilgi yayılması üzere hususlarda büyük riskler taşıyor” biçiminde konuştu.
Oxford Üniversitesi’nde yapay zeka ve etik konusunda uzman olan Dr. Sandra Wachter ise, “Yapay zeka ile üretilen görüntülerin etik ve yasal boyutları da göz önünde bulundurulmalıdır. Bu görüntüler, insanların mahremiyetine ziyan verebilir ve yanlış anlaşılmalara yol açabilir. Kullanıcılar bu teknolojiyi dikkatli ve sorumlu bir formda kullanmalıdır” tabirlerini kullandı.
Yapay zeka ile üretilen görüntülerin data güvenliği ve etik sıkıntıları da değerli bir mevzu.
Kişisel fotoğrafların müsaadesiz olarak kullanılması, mahremiyet ihlallerine ve data güvenliği meselelerine yol açabilir.
Uzmanlar, kullanıcıların bu çeşit uygulamaları kullanırken dikkatli olmalarını ve şahsî bilgilerini muhafaza altına almalarını öneriyor.
Güvenlik uzmanı Bruce Schneier, “Yapay zeka ile üretilen görüntülerin güvenliği konusunda kullanıcılar şuurlu olmalıdır. Ferdî dataların berbata kullanımı, önemli sonuçlar doğurabilir. Bu nedenle, kullanıcılar emniyetli ve etik kurallara uyan uygulamaları tercih etmelidir” dedi.
Uzmanlar, yapay zeka ile üretilen görüntülerin güvenliği ve etik kullanımı konusunda farkındalık yaratılması gerektiğini vurguluyor. Bu teknolojinin sorumlu bir formda kullanılması için eğitim ve bilgilendirme çalışmaları yapılmalı. Ayrıyeten, yasal düzenlemeler ve etik kurallar da bu alanda büyük kıymet taşımakta.
Yapay zeka ile üretilen görüntülerin potansiyel tehlikelerine karşı dikkatli olunması gerektiğini belirten uzmanlar, bu teknolojinin inançlı ve etik bir halde kullanılması için toplumsal farkındalığın artırılması gerektiğini vurguluyor.