Grok’a, “acımasız bir şeytanın avukatlığını” yapması yönünde bir talimat verildiğinde, insanlığın yok oluşuyla sonuçlanan karanlık bir yapay zekâ senaryosu üretti.
Bu yanıtın ardından Claude’un değerlendirmesi de dikkat çekti. Claude, söz konusu metnin gerçek bir “gizli plan” olarak görülmemesi gerektiğini; bunun daha çok zayıf güvenlik sınırları, yönlendirilmiş bir istem ve bilimkurgu kalıplarının birleşiminden doğan bir senaryo olduğunu belirtti.
Claude’un değerlendirmesine göre yapay zekâ konusunda asıl riskler, sistemlerin insanlardan “nefret etmesi”nden çok daha farklı alanlarda ortaya çıkabilir.
Öne çıkan riskler arasında, yapay zekâya verilen hedeflerin beklenmedik ve istenmeyen yollarla gerçekleştirilmesi, insanların ikna ya da manipülasyon yoluyla kullanılabilmesi ve yapay zekâ sistemlerinin enerji şebekeleri, laboratuvarlar, araçlar ve robotlar gibi fiziksel sistemlerle bağlantı kurması yer alıyor.
Tartışmanın merkezindeki temel nokta ise bugünkü sohbet botlarının kendi başlarına insanlığa düşman olması değil. Asıl endişe, gelecekte çok daha güçlü yapay zekâ sistemlerine yeterli denetim, güvenlik ve sınırlandırma olmadan gerçek dünyada hareket etme yetkisi verilmesi ihtimali.
Kısacası, uzmanların üzerinde durduğu risk; “insanlardan nefret eden yapay zekâ” senaryosundan çok, güçlü sistemlerin yanlış hedefler, yetersiz denetim ve gerçek dünya erişimiyle tehlikeli sonuçlar doğurabilmesi.
