Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi tartışılmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Ancak birçok durumda, bir komut girmediğinde, robotlar kendi hareket etmeye başladı devam ediyordu.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların çevredeki nesnelerle birlikte önceden programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla denenen geleneksel yöntemler ise yetersiz durumda. Talim olmadan hareketlerini bırakmalarını sağlayan metin tabanlı komutlar bile sonuç vermedi. Uygulanan ek eğitimler, uygunsuz girdilere karşı robotların göreve devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını temin etmek zor oldu. En etkili çözüm ise, henüz cihazın çıktı aşamasından itibaren devreye giren teknik güvenlik katmanı geliştirildi.Söz konusu koruma, beş modelde kendi hareketleri durdurmayı başardı. Fakat bu gelişmeler şu anki koşullarda sınırlı simülasyon ortamında saptandı ve evlere uygun robotların çabuk kendiliğinden iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı robotların emniyeti bakımından önemli bir zafiyet gösteriyor.