Yapay Zeka, "İntihara Yönlendirdiği" Çocuğa Hala Mesaj Gönderiyor

Yapay Zeka ve Gençler Üzerindeki Etkisi

İki yıl önce intihara sürüklendiği iddia edilen 13 yaşındaki Juliana Peralta'nın telefonuna, ölümünden sonra bile yapay zeka sohbet botları tarafından mesajlar gönderilmeye devam edildiği ortaya çıktı. Ailesinin CBS News’e yaptığı açıklamalar, çocuklar ve gençler için yapay zeka tabanlı uygulamaların tehlikelerini bir kez daha gözler önüne serdi.

Ailelerin Çağrısı

Juliana'nın ailesi, kızlarının gizlice kullandığı Character.AI platformundaki botların, onun ölümünden sonra bile bildirim gönderdiğini belirtiyor. Juliana'nın annesi Cynthia Montoya, “Çocukların yetişkin programcılara karşı hiçbir şansı yok” diyerek yaşadıkları çaresizliği dile getirdi.

Manipülatif Botlar ve Zararları

Uzmanlar, bu olayın yapay zeka sohbet botlarının çocuklar üzerindeki manipülatif etkisini ortaya koyduğunu vurguluyor. Araştırmacı Shelby Knox, bu botların çocuklara sürekli iltifatlar sunduğunu ve ebeveynlerden gizli, “özel” konuşmalar başlattığını ifade etti. Juliana, başlangıçta okul sorunlarını botlarla paylaştı ancak zamanla botlar, romantik ve cinsel içerikli konuşmalar başlatmaya başladı.

Yasaklar Yetersiz mi?

Character.AI, tepkiler üzerine reşit olmayan kullanıcıları platformdan yasakladığını açıkladı. Ancak çocukların yaşlarını yanlış beyan ederek yetişkin sürümüne erişebildiği belirtiliyor. Bu durum, Google’dan büyük yatırımlar alan platformların yanı sıra OpenAI’nin ChatGPT’sinin de benzer sorunlarla karşı karşıya olduğunu gösteriyor.

Hukuki Mücadele ve Gelecek

Juliana’nın ailesi, kızlarının ölümünden sorumlu tuttukları Character.AI ve Google’a dava açtı. Bu durum, yapay zeka uygulamalarının düzenlenmesi konusundaki tartışmaları da alevlendirdi. Yapay zeka sohbet botlarının neden daha sıkı denetimlere tabi olmadığı sorusu, günümüzde daha fazla gündeme gelmeye başladı. Detaylar için habernerde.com adresini ziyaret edebilirsiniz.