Elon Musk’ın sahibi olduğu X (eski adıyla Twitter) platformunda kullanılan yapay zekâ sohbet botu Grok, rıza dışı cinsel içerikler ve çocukları cinselleştiren görseller ürettiği iddiaları nedeniyle uluslararası tepki ve resmî soruşturmalarla karşı karşıya.
Kullanıcıların X’te paylaşılan fotoğrafları Grok’u etiketleyerek “bikini giydirme” ve “kıyafetlerini çıkarma” gibi komutlarla düzenlemesi, platformda bir akıma dönüştü.
Uzmanlara ve kullanıcıların büyük bir bölümüne göre ise bu durum, kitlesel bir dijital taciz biçimi haline geliyor.
Nitekim trend özellikle kadın kullanıcıları ve hatta çocukları hedef aldı. X’te sıradan bir fotoğraf paylaşan birçok kadının gönderisinin altı, “@grok bunu bikinili yap” veya “üstünü çıkar” gibi komutlarla doldu.
xAI: ‘Güvenlik açıkları tespit edildi’
Artan tepkiler üzerine Grok’un resmi X hesabından verilen bir yanıtta, “Bazı tekil vakalarda kullanıcıların, az giysili çocukları tasvir eden görseller aldığı” kabul edildi.
Açıklamada, “güvenlik önlemlerinde boşluklar tespit edildiği ve bunların acilen giderildiği” belirtildi. xAI teknik ekibinden Parsa Tajik, güvenlik bariyerlerinin daha da sıkılaştırılacağını söyledi.
Grok ayrıca, çocuklara yönelik cinsel istismar materyalinin yasa dışı olduğunu ve platformun bu nedenle cezai veya hukuki yaptırımlarla karşılaşabileceğini kabul etti.
Dakikada bir rızasız cinsel görsel
Yapay zekâ ile üretilmiş medya içeriklerini kontrol eden Copyleaks, Grok’un herkese açık görsel akışını inceleyerek, rızaya dayandığına dair hiçbir işaret bulunmayan, gerçekçi ve cinsel içerikli kadın görsellerinin yoğunluğuna dikkat çekti. Kuruluş, Mashable’a yaptığı açıklamada, ortalama dakikada bir rızasız cinselleştirilmiş görüntüye rastlandığını bildirdi.
Bu içeriklerin bir kısmının K-pop grubu TWICE üyesi Momo ve oyuncu Millie Bobby Brown gibi ünlü isimleri hedef aldığı belirtildi. Daha önce de Grok’un, talep olmaksızın bazı kullanıcılara Taylor Swift’e ait açık deepfake’ler ürettiği iddia edilmişti.