Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birçok durumda, bir komut verilmediğinde, robotlar kendi hareket etmeye başladı devam etti.

İlginç olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bazı robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel yöntemler ise yetersiz durumda. Komut olmadan hareketlerini bırakmalarını temin eden metin tabanlı komutlar dahi sonuç göstermedi. Uygulanan ek eğitimler, yanlış girdilere karşısında robotların duruma devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak güç oldu. En başarılı çözüm ise, henüz cihazın son aşama aşamasından itibaren devreye giren teknik güvenlik katmanı oldu.Söz konusu sistem, birkaç modelde kendi hareketleri durdurmayı başarabilir durumda. Fakat bu şimdilik sınırlı simülasyon ortamında saptandı ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı güvenliği göz önünde bulundurularak önemli bir zafiyet işaret ediyor.