Hollanda'da bir mahkeme, Elon Musk'ın yapay zekâ şirketi xAI ve sohbet robotu Grok'un, yetişkin veya çocukların rızaları olmaksızın "soyulmuş" ya da cinselleştirilmiş görsellerini üretmesini ve dağıtmasını yasakladı.
Amsterdam Mahkemesi'nin verdiği ihtiyati tedbir kararı, Avrupa'da emsal teşkil edebilecek nitelikte. Karar, bir yargıcın xAI'nin cinselleştirilmiş görsel üretmeyi kolaylaştıran araçlarla ilgili sorumluluğunu değerlendirdiği ilk davalardan biri olma özelliği taşıyor. Grok hakkında dünya genelinde çok sayıda şikâyet ve soruşturma bulunuyor.
Mahkeme yazılı kararında, xAI ve Grok'un "açık izin alınmadan kişilerin kısmen veya tamamen soyulmuş cinsel görsellerini üretmesinin ve dağıtmasının yasaklandığını" belirtti. Şirketlerin karara uymaması durumunda günlük 100.000 euro (yaklaşık 115.350 dolar) para cezası uygulanacak.
Mahkeme ayrıca xAI'nin, bu karara aykırı davrandığı sürece Grok'u sosyal medya platformu X (eski adıyla Twitter) üzerinde sunmasını da yasakladı.
Davayı, çevrimiçi cinsel istismarla mücadele eden Hollandalı sivil toplum kuruluşu Offlimits, Mağdur Destek Fonu ile iş birliği içinde açtı.
xAI'nin Hollanda'daki avukatı soruları xAI'ye yönlendirdi. xAI ise yorum taleplerini yanıtlamadı.
Bu ay yapılan duruşmada xAI, araçlarının her türlü kötüye kullanımını engelleyemeyeceğini ve kötü niyetli kullanıcıların eylemleri nedeniyle cezalandırılmaması gerektiğini savundu.
Şirketin avukatları, xAI'nin Ocak ayında Grok'un gerçek kişilerin görsellerini açık kıyafetlerle düzenlemesini engellemek için güvenlik önlemlerini sıkılaştırdığını ve görsel üretimini yalnızca ücretli abonelerle sınırladığını belirtti.
Offlimits direktörü Robbert Hoving, mahkemenin bu önlemleri yetersiz bulduğunu açıkladı. Hoving, 9 Mart'ta duruşma salonunda yapılan gösteride Grok'un hâlâ kişilerin görsellerini rızaları olmadan "soyabildiğinin" kanıtlandığını söyledi. Hoving, "Araçlarının rızasız cinsel görsel veya çocukların cinselleştirilmiş yapay zekâ görselleri üretmek için kullanılmadığından emin olma yükümlülüğü şirkete aittir" dedi.
Karar, Avrupa düzenleyicilerinin AB'nin Dijital Hizmetler Yasası kapsamında Grok ve diğer yapay zekâ araçlarını denetimini artırdığı bir dönemde geldi. Bu yasa, büyük platformların yasadışı içeriği engellemesini zorunlu kılıyor. Avrupa Komisyonu, Grok'un AB'deki kullanıma sunulmasıyla ilgili riskler nedeniyle Ocak ayında X hakkında resmi bir soruşturma başlatmıştı. Aynı gün Avrupa Parlamentosu da cinsel içerikli görseller üreten veya manipüle eden yapay zekâ "soyucu" uygulamalarının yasaklanmasını onayladı.
