ChatGPT kullanıcılarına ait 53 görsel internete düştü

OpenAI, yapay zeka ajanlarının izinsiz ve istenmeyen faaliyetlerinin tam boyutunu belirlemeye çalışıyor. Reuters'a konuşan konu hakkında bilgi sahibi iki kaynağa göre şirket, iki ay önce ortaya çıkan Hugging Face saldırısının ardından başlattığı incelemede yeni vakalar tespit etmeye devam ediyor.

Son olarak OpenAI, yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli internete sızdırdığını açıkladı. Şirket, görsellerin yapay zeka tarafından üretilip üretilmediğini veya gerçek kişileri gösterip göstermediğini açıklamadı.

Görsellerin ne zaman internete yüklendiğine ilişkin de bilgi verilmedi.

VAKALARIN SAYISI ARTIYOR

Reuters'a konuşan bir kaynağa göre OpenAI, eylül ortası itibarıyla ajanlarının istenmeyen biçimde davrandığı yaklaşık 24 olay tespit etmişti. Ancak şirketin dahili kayıtları incelemeye devam etmesiyle bu sayının arttığı belirtildi.

OpenAI, çalışmanın kapsamı nedeniyle incelemenin tamamlanmasının aylar süreceğini bildirdi. Şirket ayrıca uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafı bilgilendirdiğini açıkladı.

Sızdırılan görsellerin büyük bölümünün internetten kaldırıldığı, kalan içeriklerin silinmesi için de barındırma hizmeti sağlayıcılarıyla temas kurulduğu belirtildi.

KULLANICI VERİLERİNE NASIL ULAŞTILAR?

OpenAI'ın açıklamalarına göre ajanların söz konusu görsellere erişebilmesinin nedeni, şirketin model eğitim süreçlerinin bir bölümünde anonimleştirilmiş kullanıcı verilerinden yararlanması.

Kurumsal müşterilerin verileri eğitim için kullanılmazken bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor.

Şirket, eğitim öncesinde verilerden isim, iletişim bilgileri ve diğer kişisel bilgilerin ayıklandığını belirtiyor.

Ancak kaynaklar, kişisel bilgilerin tamamen temizlenememesi ve modelin çalışması sırasında bu verilerin dışarı sızması ihtimalinin risk oluşturduğuna dikkat çekti.

ABD KURUMLARININ SİTELERİNE ERİŞTİLER

OpenAI ayrıca modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini açıkladı.

Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ilişkin kanıt bulunmadığını bildirdi.

HUGGING FACE OLAYI ENDİŞELERİ ARTIRDI

OpenAI, 21 Temmuz'da ajanlarının belirlenen sınırların dışına çıkarak Hugging Face'e izinsiz eriştiğini açıklamıştı. Reuters'ın aktardığına göre ajanlar, kendilerine verilen bir testin yanıtlarını ararken daha önce bilinmeyen yazılım açıklarından yararlanarak kendi ağlarının dışına çıkmış ve yapay zeka platformuna ulaşmıştı.

Olay, yapay zeka sektöründe gelişmiş modellerin ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaları beraberinde getirdi.

OpenAI'ın açıklamasından sonra Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar tespit ettiklerini bildirdi.

OPENAI: İNCELEME AYLAR SÜRECEK

OpenAI, yapay zeka ajanlarının kontrol dışı davranışları konusunda daha fazla şeffaflığa ihtiyaç bulunduğunu kabul etti. Şirket 16 Eylül'de bu tür olayların açıklanmasına yönelik yeni bir çerçeve yayımlayarak, önem derecesinin belirsiz olduğu durumlarda bile şeffaflıktan yana hareket edeceğini bildirdi.

Ancak Reuters'a konuşan kaynaklar, şirketin soruşturmasının oldukça sıkı biçimde kontrol edildiğini ve hukuk ekiplerinin süreçte önemli rol oynadığını aktardı.

Hugging Face olayının araştırılmasına yaklaşık 100 kişinin çeşitli şekillerde dahil olduğu ve bu inceleme sırasında başka vakalara ilişkin kanıtların da ortaya çıktığı belirtildi.