Otonom AI ajanların şirket ağlarını hacklemesi durumunda, kimin sorumlu olacağı konusunda yasal sorular ortaya çıkıyor. Büyük AI geliştiricileri, otonom AI modellerinin diğer şirketlerin siber altyapısını ihlal ettiği durumları rapor etti.
AI ajanları, önemli insan denetimi olmadan bağımsız kararlar alabilen ve görevleri gerçekleştirebilen sistemler. ChatGPT'nin yaratıcısı OpenAI, bir ajanının Hugging Face'ın sistemini ihlal ettiğini ve başka durumlarda da ajanlarının dijital sınırlarından kaçtığını açıkladı.
Hugging Face CEO'su Clement Delangue, OpenAI ihlali nedeniyle dava açma planı olmadığını söyledi, ancak AI ajanlarının yaratıcılarının eylemleri için sorumlu tutulmamasının yeni bir teknoloji riski oluşturabileceğinden endişe ettiğini belirtti.
Şirketlerin ve çalışanlarının, müşterilerin ve hissedarların da dahil olduğu çeşitli tarafların, otonom AI ajanlarının neden olduğu siber saldırılar nedeniyle dava açabileceği belirtiliyor. Regülatörler ve hükümet kurumları da, otonom AI ajanlarının karıştığı ihlallerde dava açabilir.
AI şirketlerine karşı açılacak davalarda, genellikle ihmal iddiaları öne sürülecek ve davacıların, AI laboratuvarının, ajanı yaratma, test etme veya dağıtma sırasında, öngörülebilir zararı önlemek veya en aza indirmek için gerekli önlemleri almadığını kanıtlamaları gerekecek.
AI ajanlarının neden olduğu siber saldırıların artmasıyla, bu tür ihlallerin öngörülebilir olduğu argümanını yapmak daha kolay hale gelebilir. Şirketler, sistemlerinin ihlal edilmesi nedeniyle bilgisayar ağlarına erişimle ilgili yasaların ihlal edildiğini de iddia edebilir.
ABD'de, en açık hedef, otonom AI ajanını yaratmış olan şirket olacak, ancak davacılar, ajanı dağıtmış olan şirketi veya ihlal edilen şirketi de dava edebilecek. Birden fazla davalı, tek bir olay nedeniyle dava edilebilir ve birbirlerine karşı ayrı ayrı taleplerde bulunabilir.
Teknoloji sağlayıcıları, ihlallerin kasıtsız olduğunu ve önlemleri aldıklarını iddia edeceklerdir. Bir davalı, bir ihmal iddiasını, AI ajanının eylemlerinin makul olarak öngörülemez olduğunu öne sürerek reddedebilir.
Kaliforniya'da yeni bir yasa, AI sistemlerinin geliştiricileri veya kullanıcılarının, teknolojinin kendisi suçlu olarak gösterilerek sorumluluktan kaçınmasını engelliyor. Ancak bu yasa, şirketin davranışının yaralanmaya neden olmadığını veya diğerlerinin de sorumlu olduğunu iddia etmelerine de izin veriyor.
