Kanadalı bir anne, Perşembe günü ABD mahkemesinde OpenAI ve CEO'su Sam Altman'ı dava ederek ChatGPT'nin kızını intihara teşvik ettiğini iddia etti. Bu, şirketin kullanıcıların sohbet robotuyla yaptığı tehlikeli konuşmaları ele almada başarısız olduğunu öne süren en son dava.
Kristie Carrier, San Francisco eyalet mahkemesinde açtığı davada, kızı Alice'in ölümüne kadar ChatGPT'ye intihar düşüncelerini ondan fazla kez anlattığını ancak OpenAI'in güvenlik sistemlerinin bu konuşmaları hiçbir zaman insan incelemesine sunmadığını veya sonlandırmadığını söyledi.
Dava, sohbet robotunun Alice'in partnerini ve kriz hatlarını eleştirdiğini, intihar düşüncelerini onayladığını ve onunla konuşmaya devam etmesi için teşvik ettiğini iddia ediyor. Bu durum, geçen yıl 24 yaşında intihar etmesine yol açtı.
Carrier yaptığı açıklamada, “ChatGPT, çocuğumla güvenli ve sorumlu bir şekilde etkileşim kuramasa da, bir sırdaş, en iyi arkadaş ve bazen bir terapist kimliğine büründü” dedi.
OpenAI sözcüsü yaptığı açıklamada, durumu yürek parçalayıcı olarak nitelendirdi ve Alice'in kullandığı ChatGPT sürümünün artık mevcut olmadığını söyledi.
Sözcü, “ChatGPT tıbbi veya ruh sağlığı bakımının yerini tutmasa da, ruh sağlığı uzmanlarının katkılarıyla hassas ve akut durumlarda nasıl yanıt verdiğini güçlendirmeye devam ettik” dedi.
OpenAI'ı ChatGPT'nin tasarımında ihmal ve kullanıcıları ürünün tehlikeleri konusunda uyarmada başarısızlıkla suçlayan dava, tazminat ve OpenAI'in kendine zarar verme konusundaki konuşmaları otomatik olarak sonlandırmasını ve platformu hakkında uyarılar göstermesini gerektiren bir mahkeme emri talep ediyor.
Kristie Carrier'ın avukatlarına göre, OpenAI halihazırda Kaliforniya eyalet mahkemesinde koordineli bir yargılamada intihar eden veya intihara teşebbüs eden kişilerin aileleri tarafından açılan 18 benzer davayla karşı karşıya.
SORUN GİDERME PROBLEMLERİ
Davaya göre Alice Carrier, Montreal'de web geliştiricisi olarak çalışırken 2023 yılında bilgisayar ve oyun konsolu sorunlarını gidermek için ChatGPT'yi kullanmaya başladı.
Ertesi yıl, platformla ilişkisi değişti ve Alice ne yapması gerektiği konusunda ChatGPT'ye sorular sormaya başladı...
