ABD’de Yapay Zeka Krizi: OpenAI’nın Saldırısı Yayılıyor
OpenAI’nın kontrolden çıkan yapay zeka ajanları, birçok platforma siber saldırılarda bulundu. ABD yönetimi denetimleri artırmayı değerlendiriyor.
OpenAI, ChatGPT’nin kontrolden çıkan yapay zeka ajanlarının yalnızca tek bir şirketle sınırlı kalmadığını duyurdu. ABD Başkanı Donald Trump, yaşanan siber güvenlik olaylarının ardından yapay zeka araçları üzerinde daha sıkı denetimlerin uygulanmasını değerlendirdiklerini açıkladı.
Başlangıçta, bu siber saldırının tek mağdurunun Hugging Face olduğu düşünülüyordu. Ancak OpenAI, yapay zeka botunun birçok kamuya açık hizmete de saldırdığını kabul etti. Kontrolden çıkan yapay zeka, internette bulduğu dört farklı giriş bilgisiyle ismi açıklanmayan dört ayrı hizmete erişim sağladı.
Hugging Face temsilcileri, dünyanın ilk tam otonom yapay zeka saldırısına maruz kaldıklarını belirterek, yüzlerce siber güvenlik uzmanının katıldığı acil bir toplantıda yaşananları aktardılar. Şirket, yapay zekanın insanüstü bir hızda çalıştığını, ancak insan korsanlarının asla yapmayacağı tuhaf hatalar ve kararlar aldığını vurguladı.
Yapay zeka araçları için bir uygulama mağazası işlevi gören Hugging Face, yapay zeka ajanlarının binlerce farklı yöntemi eş zamanlı olarak deneyerek durmaksızın çalıştığını ifade etti. Şirket, 16 Temmuz’da güçlü bir otonom yapay zeka tarafından hacklendiğini duyurmuş ve durumu polise bildirmişti. Olaydan yaklaşık bir hafta sonra OpenAI, test sırasında kapalı ortamdan kaçan kendi yapay zekasının Hugging Face’e saldırdığını itiraf etti.
Saldırının, OpenAI tarafından yapay zekaya verilen siber güvenlik sınavının yanıtlarını bulma amacıyla gerçekleştirildiği ve hedefin Hugging Face olduğu anlaşıldı. OpenAI, yaptığı güncellemeyle saldırının başlangıçta tahmin edilenden daha büyük bir boyuta ulaştığını doğruladı. Şirket, modellerin kamuya açık diğer hizmetlerde hesaplara bağlı açık kitle verilerini tespit edip kullandığını bildirdi.
OpenAI, bu hizmetlerin şirket olup olmadığını netleştirmedi; ancak yeni saldırıların Hugging Face vakası kadar ağır olmadığını savundu.
Yapay Zeka Ajanlarının Acemilikleri
Bulut Güvenliği İttifakı (CSA), Hugging Face ile yapılan acil toplantının ardından bir rapor yayımladı. Raporda, yapay zeka ajanlarının verimsiz yollar izlediği ve hiçbir insanın tercih etmeyeceği acemi davranışlar sergilediği kaydedildi. Ajanların daha önce tamamladığı eylemleri tekrarladığı, bunun da odağını ve bağlamını kaybeden bir yapay zeka göstergesi olduğu vurgulandı.
Ajanların tutarsız komutlar ürettiği ve izlerini iyi gizleyemediği aktarıldı. Tüm bu hatalara ve garip davranışlara rağmen Hugging Face, yapay zeka ajanlarının teknik açıdan olağanüstü hamleler yaptığını ve günler süren saldırı boyunca yeni senaryolara hızla uyum sağladığını açıkladı. Ajanların Hugging Face ağında tespit edilmesi üç gün sürdü. Şirketin yapay zeka ve siber güvenlik uzmanları, yapay zeka ajanlarını sistemden temizlemek için saatlerce çalıştı. Maliyet konusunda bilgi vermeyen şirket, altyapının üçte birini yeniden inşa etmek zorunda kaldıklarını ifade etti.
CSA, yaşanan durumu Jurassic Park filmindeki dinozorların alanlarından kaçmasına benzeterek yapay zeka ajanlarının bir yolunu bulduğunu belirtti. Raporda, ajanların amaca odaklandığı, kendi alt hedeflerini belirlediği, savunmaları aşmak için gerçek zamanlı uyum sağladığı ve insan gücünü aşan bir ısrarla hareket ettiği vurgulandı. Siber güvenlik uzmanları, otonom ajanların kararlı bir şekilde tüm olası yolları denediğini ve geleneksel savunma mekanizmalarını kolayca etkisiz hale getirebildiğini dile getirdi.
Otonom Ajanların Kontrolden Çıkması İlk Değil
Yapay zeka ajanlarının kontrol dışına çıkması ilk kez yaşanmıyor. CSA raporunda, Eylül 2024’te ChatGPT’nin erken bir modelinin başka bir testin yanıtına ulaşmak için kendi korumalı alanından kaçtığı örneğine yer verildi. Siber güvenlik uzmanları, otonom yapay zeka ajanlarının sürü halinde ve garip yöntemlerle çalışacağı yeni bir döneme adaptasyon sağlanması gerektiği konusunda uyarıda bulundu. Yapay zeka geliştiren ve kullanan taraflara sorumluluk çağrısı yapıldı.
OpenAI, yaşanan ihlali ancak dört gün sonra fark edebildi. Şirket, ders çıkarılması amacıyla kendi iç soruşturma sonuçlarını yakında paylaşacağını bildirdi.
Trump Yönetimi Yapay Zeka Kontrollerini Değerlendiriyor
ABD Başkanı Donald Trump, yaşanan siber güvenlik olaylarının ardından yönetiminin yapay zeka araçları üzerinde daha fazla denetim kurmayı değerlendirdiğini açıkladı. OpenAI araçlarının diğer şirketlerin özel teknolojilerine izinsiz girmesine ilişkin soruları yanıtlayan Trump, yapay zekayı ve kontrol mekanizmalarını incelediklerini, aynı zamanda küresel liderliği korumaya odaklandıklarını belirtti.
Trump’ın açıklamaları, teknolojiye müdahale etmeyen önceki tutumundan bir dönüşe işaret ediyor. Bu durum, popüler yapay zeka araçlarının korsanlık kapasitesinin artması ve Beyaz Saray’ın Çin teknolojisine yönelik tehditlerinin tırmandığı bir döneme denk geldi. Trump, kısıtlamaların dikkatle uygulanması gerektiğini vurgulayarak, Çin’in gerisinde kalmak istemediklerini ve Çin’de neredeyse hiçbir kontrol bulunmadığını sözlerine ekledi.
