ABD'de Yapay Zeka Skandalı: Polis Raporu "Kurbağa" Yaptı

Yapay Zeka ile Yazılan Raporlar Üzerine Tartışmalar

ABD’nin Utah eyaletindeki Heber City Polis Teşkilatı, yapay zeka destekli bir rapor yazılımının ilginç bir hatasına dikkat çekti. Yazılım, bir polis memurunun raporunun sonunda onu “kurbağaya dönüştürmesi” ile gündeme geldi. Bu durum, yapay zeka kullanımının potansiyel sorunlarını gözler önüne serdi.

Hatanın Sebebi: Arka Plandaki Film

Fox 13’ün haberine göre, bu hata, polis memurunun vücut kamerası kaydında bulunan Disney’in 2009 yapımı “Prenses ve Kurbağa” filminden kaynaklandı. Heber City Polis Teşkilatı’ndan Çavuş Rick Keel, yazılımın arka planda çalan film seslerini yanlış yorumladığını açıkladı. Keel, “Yapay zeka destekli rapor yazma programı, olay anında arka planda açık olan filmi algıladı. Bu durum, yapay zeka raporlarının mutlaka gözden geçirilmesi gerektiğini gösterdi” dedi.

Yazılımın Amaçları ve Sonuçları

Draft One adı verilen bu yazılım, Axon tarafından geliştirilmiştir ve OpenAI’ın GPT büyük dil modellerini kullanmaktadır. Amacı, vücut kamerası görüntülerinden otomatik olarak polis raporu oluşturmak ve memurların evrak yükünü azaltmaktır. Ancak, yapılan basit bir “trafikte araç durdurma” senaryosunda bile, yazılımın ciddi hatalarla dolu raporlar ürettiği belirtildi. Buna rağmen, Çavuş Keel, yazılımın kendisine haftada “altı ila sekiz saat” kazandırdığını ifade etti.

Şeffaflık Endişeleri

Electronic Frontier Foundation (EFF) tarafından yapılan bir inceleme, bu yazılımın kamu denetimini zorlaştırabileceği endişesini gündeme getirdi. EFF’nin raporuna göre, bir polis raporunun hangi bölümlerinin yapay zeka tarafından, hangilerinin memur tarafından yazıldığını ayırt etmek genellikle mümkün olmuyor. “Axon ve müşterileri bu teknolojinin polisliği dönüştüreceğini iddia ediyor. Ancak bunun ceza adalet sistemini nasıl etkileyeceği belirsiz” ifadeleri dikkat çekti.

Bu tür gelişmeler, yapay zekanın polislik uygulamalarındaki rolü ve etkileri hakkında daha fazla tartışma yapılmasını sağlıyor. Daha fazla bilgi için habernerde.com adresini ziyaret edebilirsiniz.