ChatGPT yazışmaları FBI’a ulaştı: Yapay zekâda kriz
Brezilya’daki soruşturma, ChatGPT yazışmalarının hangi koşullarda yetkililere aktarılabileceği sorusunu gündeme getirirken Sam Altman’dan kritik uyarı geldi.
Yapay zekâ platformlarında yürütülen konuşmaların güvenlik gerekçesiyle yetkililerle paylaşılması, Brezilya’da yaşanan bir soruşturmayla birlikte yeniden gündeme geldi. Espírito Santo eyaletinde yaşayan 36 yaşındaki bir kişinin, sekiz yaşındaki oğluna zarar verme planlarını ChatGPT üzerinden yazdığı iddia edildi. Olay, ChatGPT yazışmaları için mahremiyet sınırlarının nerede başlayıp nerede sona erdiği sorusunu öne çıkardı.
Brezilya’daki soruşturmanın ayrıntıları
Soruşturma dosyasına göre şüpheli, yaklaşık iki ay boyunca çocuğun öldürülmesine ilişkin farklı senaryoları sohbet sisteminde dile getirdi. Yazışmalarda silah ve zehir kullanımıyla ilgili ifadelerin yanı sıra çocuğa zarar verme planlarının yer aldığı öne sürüldü. Şüphelinin ayrıca bir kiralık katil aradığı ve bu kişiye ödeme yapmayı teklif ettiği iddialar arasında bulunuyor.
OpenAI’nin sistemi tarafından konuşmaların ciddi ve yakın bir fiziksel zarar riski taşıdığı değerlendirilince durumun FBI’a bildirildiği, ardından bilginin Brezilyalı yetkililere aktarıldığı belirtildi. Polis aramasında bazı maddelerin bulunduğu şişeler ile bir ip ele geçirildiği, şüphelinin zehirli maddeler konusunda araştırma yaptığı iddiasının da dosyaya yansıdığı aktarıldı.
Şüpheli 54 gün tutuklu kaldıktan sonra serbest bırakıldı. Müdafii ise müvekkilinin yalnızca anlamsız ifadeler kullandığını ve ortada gerçekleşmiş bir suç bulunmadığını savundu. Bu durum, yapay zekâ şirketlerinin tehdit değerlendirmelerinin hukuki sonuçları ve kişisel konuşmaların hangi şartlarda paylaşılabileceği konusundaki tartışmaları derinleştirdi.
Her şiddet içeren konuşma bildirilmiyor
OpenAI’nin politikalarına göre, şiddet içeren her konuşmanın otomatik olarak kolluk kuvvetlerine gönderilmesi söz konusu değil. Şirket, bildirim için yakın, ciddi ve inandırıcı bir fiziksel zarar tehdidinin bulunduğunun değerlendirilmesi gerektiğini belirtiyor. Brezilya’daki olayda ise sistemin yaptığı risk değerlendirmesinin FBI’a bildirimle sonuçlandığı ifade ediliyor.
Tartışmalar sürerken OpenAI Üst Yöneticisi Sam Altman da yapay zekâ sektörünün geleceğine ilişkin uyarılarda bulundu. Altman, bazı şirketlerin ekonomi üzerinde aşırı güç kazanabileceğini ve sahip oldukları etkinlikle insanlara belirli bir dünya görüşünü dayatabileceklerini söyledi. Ayrıca yapay zekâ sistemlerinde ciddi bir “kontrol kaybı kazası” yaşanabileceği uyarısını yaptı.
Yaşananlar, yapay zekâ tartışmasının yalnızca istihdam veya teknolojik dönüşüm başlıklarıyla sınırlı olmadığını gösteriyor. Şirketler bir yandan kullanıcı güvenliğini sağlamak amacıyla konuşmaları analiz ederken, diğer yandan bu sistemleri geliştiren yöneticiler, güç ve denetimin az sayıda şirket ya da kişinin elinde toplanmasının yeni riskler doğurabileceğine dikkat çekiyor.
