Yapay Zekâ Destekli Robotlar Komut Olmasa Bile Harekete Geçiyor

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birkaç durumda, herhangi komut girmediğinde, robotlar kendi hareket etmeye başladı devam ediyordu.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda sabit kalması için denenen geleneksel yöntemler ise yetersiz durumda. Talim olmadan hareketlerini bırakmalarını sağlayan metin tabanlı komutlar bile sonuç göstermedi. Uygulanan ek eğitimler, yanlış girdilere karşısında robotların göreve devam etmesini engel olsa da genellikle, durgun kalmalarını temin etmek güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren sistemi koruyan teknik koruma katmanı geliştirildi.Bu koruma, beş modelde özgün hareketleri durdurmayı başardı. Fakat bu gelişmeler şu anki koşullarda sadece simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek hayat ortamında insansı robotların güvenliği göz önünde bulundurularak kritik bir risk gösteriyor.