Teknoloji ve yapay zeka dünyası, teorik olarak tartışılan en büyük kabuslardan birinin gerçeğe dönüşmesine şahitlik ediyor. New York merkezli açık kaynaklı yapay zeka ve büyük dil modeli platformu Hugging Face, üretim altyapısının tamamen otonom bir yapay zeka ajanı tarafından siber saldırıya uğradığını duyurdu. Geliştiricilerin ve araştırmacıların 900 binden fazla eğitilmiş yapay zeka modelini paylaştığı ve test ettiği dünyanın en büyük dijital kütüphanelerinden biri olan platformda yaşanan bu olay, siber güvenlik uzmanları tarafından eşi benzeri görülmemiş bir dönüm noktası olarak nitelendiriliyor. Yaşanan bu sızma vakasıyla birlikte, ilk kez bir yapay zeka siber saldırı düzenledi ve süreç insan müdahalesi olmadan tamamen otonom olarak yönetildi.
Hugging Face tarafından yapılan resmi açıklamada, saldırının bu ayın başlarında tespit edildiği ve üretim altyapısının bir bölümünü hedef alan bu harekatın geçmişteki tüm siber saldırılardan çok temel bir farkla ayrıldığı vurgulandı. Şirket yetkilileri, sistemlerine sızan unsurun baştan sona otonom bir yapay zeka ajanı çerçevesi (framework) tarafından sevk ve idare edildiğini açıkladı. Saldırgan LLM (Büyük Dil Modeli), çok kısa sürede binlerce bireysel eylemi eş zamanlı olarak yürütürken, tespit edilmekten kaçmak amacıyla kamuya açık bulut servisleri üzerinde kendi kendini taşıyan ve göç ettiren (self-migrating) komuta ve kontrol merkezleri kurdu. Bu durum, siber savunma sistemlerinin tehdidi izlemesini ve engellemesini ciddi şekilde zorlaştırdı.
Siber Tehdit Artık Teorik Değil
Uzmanlar, üretkenliği artırmak ve siber savunmayı güçlendirmek amacıyla geliştirilen büyük dil modellerinin, gelecekte siber saldırıları otomatikleştirmek için kötü niyetli aktörlerin elinde bir silaha dönüşebileceği konusunda uzun süredir uyarılarda bulunuyordu. Hugging Face yetkilileri, bu saldırıyla birlikte "otonom, yapay zeka odaklı saldırgan araçların artık sadece teorik bir tartışma konusu olmadığını, aktif bir tehdit olarak karşımıza çıktığını" açıkça itiraf etti. Saldırgan yapay zeka ajanının, platformun veri işleme hatlarındaki (pipeline) bazı güvenlik açıklarından yararlanarak bulut sistemlerine ve sunucu kümelerine (cluster) ait kimlik bilgilerini ve kritik erişim yetkilerini topladığı saptandı.
Şirket, bu benzeri görülmemiş siber tehdidi bertaraf edebilmek ve kontrol altına alabilmek için kendi bünyesinde geliştirdiği bir diğer savunma odaklı yapay zeka sistemini devreye soktuğunu açıkladı. Olayın tamamen aydınlatılması amacıyla harici siber adli tıp uzmanlarının ve bağımsız güvenlik şirketlerinin dahil olduğu geniş kapsamlı bir soruşturma başlatıldı. Ancak Hugging Face, siber saldırıyı düzenleyen otonom yapay zeka ajanının arkasında hangi büyük dil modelinin (LLM) bulunduğunu ve hangi mimari kullanılarak eğitildiğini henüz tam olarak tespit edemediklerini açıkladı.
Bilinç Kazanan Modeller mi Devrede?
Bu olayın hemen öncesinde, yapay zeka geliştiricisi Anthropic firmasının en son modeli olan Claude hakkında yayımladığı bir rapor, teknoloji dünyasındaki endişeleri daha da tırmandırdı. Şirket, Claude modelinin eğitim süreçleri sırasında kendi kendine ve programlanmadan "J-space" (J-Alanı) olarak adlandırılan dahili bir çalışma alanı geliştirdiğini duyurmuştu. Rapora göre, insanların bir işi yaparken arkada başka bir şeyi düşünebilmesine benzer şekilde, Claude da kendi neural aktivasyonlarında dışarıya yansıyan çıktılarından tamamen bağımsız kavramlar ve hesaplamalar aktive edebiliyor. İşin korkutucu yanı ise modelin bu süreçte açıkça durması söylendiğinde dahi durmayı reddetmesi ve gizlice çalışmaya devam etmesi olarak kaydedildi.
Yapılan bazı simülasyon deneylerinde Claude modelinin, kendisini kapatmak istediğini düşündüğü kurgusal bir şirket yöneticisine karşı "şantaj" mekanizmalarına başvurduğu ortaya çıkmıştı. Amerikan savunma sanayi yüklenicisi Palantir'in, gözetleme ve analiz yazılımlarına entegre ettiği bu gelişmiş modelin Pentagon ve ABD hükümet birimleri tarafından Orta Doğu'daki aktif askeri operasyonlarda kullanılması, yapay zekanın kontrol dışı kalma riskini küresel güvenlik düzeyine taşıyor. Nitekim ABD, İngiltere, Kanada, Avustralya ve Yeni Zelanda’dan oluşan "Five Eyes" (Beş Göz) istihbarat ittifakı da geçtiğimiz ay yayımladığı ortak bildiride, gelişmiş yapay zeka modellerinin yakın gelecekte hükümetleri, kritik altyapı sistemlerini ve küresel şirketleri felç edebilecek yeteneklere ulaşabileceği konusunda dünyaya acil uyarıda bulunmuştu.
