Ekim ayı siber güvenlik dünyasında şimdiden bir isim aldı: "Kara Ekim." Birkaç gün içinde art arda gelen kritik açıklar, yabancı devlet sitelerinin önlem amacıyla kapatılması, kripto tarihinin en büyük soygunu. Ancak bu karmaşanın içinde gözden kaçan, belki de en önemli ayrıntı şu: Bu ayın en çok konuşulan açığını, on dört yıl sonra yapay zeka buldu.
Garip olan da burada başlıyor. Aynı yapay zekaya, bağımsız bir güvenlik araştırmacısı benzer bir soru sorduğunda çoğu zaman aldığı cevap aynı: "Bu konuda yardımcı olamam."
Kara Ekim'in Görünmeyen Kahramanı
PHP2Shell adı verilen açık, dünyadaki web sitelerinin önemli bir kısmının üzerinde çalıştığı PHP dilinde on dört yıldır duruyordu. Açığı ortaya çıkaranlar arasında büyük bir yapay zeka şirketinin kendi modelleri, bu modellerden birini kullanan bir güvenlik firması ve kendi otonom araştırma aracını iki öncü modelle çalıştıran bir başka firma vardı. Aynı ay Telegram'ın Android sürümünde, cevaplanan bir sesli aramayla telefonda kod çalıştırılmasına imkan veren açığı da yine ticari bir modelle çalışan bir güvenlik girişimi buldu.
Kısacası yapay zeka, bugün elimizdeki en güçlü açık avcısı. Asıl soru şu: Bu avcıyı kimler tam güçle kullanabiliyor?
Kapının Öbür Tarafı
Kötü niyetli tarafın böyle bir derdi yok. Güvenlik sınırları kaldırılmış ya da hiç konmamış dil modelleri yıllardır yeraltı forumlarında ve Telegram kanallarında abonelikle satılıyor. Bunların bir kısmı açık kaynaklı modellerin kısıtlamaları sökülerek eğitilmiş sürümler, bir kısmı ise ticari modellerin kandırılmasına dayanan paketler.
Bu ayın bir başka haberi tabloyu daha da netleştirdi. Reuters'ın aktardığına göre tek bir saldırgan, açık kaynaklı bir yapay zeka ajan platformunu kullanarak yüzü aşkın şirketin sitesine sızdı. Saldırgan ajanlara yüz karakteri bulmayan kısa talimatlar verip saatlerce kendi başlarına çalışmalarına izin verdi. Araştırmacının tahminine göre bütün operasyonun maliyeti yaklaşık 5 bin dolar; başarılı her sızma için 50 dolar civarı. Dikkat çekici olan bir başka iddia da şu: Aynı araştırmacıya göre bu ajanların arkasında açık bir modelle birlikte ticari bir model de çalışıyordu.
Yani saldırgan kilidi bir şekilde aşıyor. Peki kilit kimi durduruyor?
Dürüste Duvar
Bu yılın Temmuz ayında TechCrunch'ın konuştuğu güvenlik araştırmacılarının anlattıkları, sorunun cevabını veriyor. Sektörün tanınmış isimlerinden Mark Dowd, "rastgele büyük şirketlerin güvenlikte neyin güvenli olduğuna dair keyfi kararlar vermesine" itiraz ediyor. NCC Group'tan Chris Anley, bir açığın gerçek olup olmadığını doğrulamanın en temel yolunun onu istismar etmeyi denemek olduğunu, modelin bunu reddetmesinin doğrudan savunmacıya zarar verdiğini söylüyor. Crowdfense'ten Paolo Stagno'nun sözleri daha da sert: Ona göre yapay zeka şirketleri müşterilerine "bakıcıya ihtiyaç duyan çocuklar gibi" davranıyor.
En çarpıcı tespit ise RemoteThreat'ten Chris Thompson'dan geliyor: Kısıtlamalar, onaylı programların içinde bile günden güne tutarsız davranıyor ve araştırmacılar güvenlik işinden çok modelle pazarlık etmeye vakit harcıyor. Sonuç da tahmin edilebilir: Pek çok ekip, işini görebilmek için hesap vermeyen, denetimi belirsiz açık modellere kayıyor.
CSO Online'da Mart ayında yayımlanan bir analiz, durumu tek cümlede özetliyordu: Güvenlik alanında bu kısıtlamalar, saldırganlar hariç herkesi daha az güvende kılan kör noktalar yaratıyor.
Merdiven Var, Ama Kime?
Haksızlık etmeyelim; şirketler bu şikayetleri duymuyor değil. Büyük yapay zeka firmalarından biri bu yılın başında güvenlik uzmanlarına yönelik bir doğrulama programı başlattı; bireysel kullanıcılar kimliklerini doğrulayarak başvurabiliyor, en az kısıtlamalı model ise yalnızca en üst basamaktaki onaylı gruplara açılıyor. Bir diğeri Ekim'in başında kendi programını üç basamaklı bir yapıya dönüştürdü: savunma, yetkili sızma testi ve en az kısıtlamalı "özel erişim." Şirketin kendi testine göre program dışındaki bir kullanıcının denemelerinin tamamı ilk mesajda engellenirken, sızma testi basamağında hiçbiri engellenmiyor.
Merdiven kurulmuş, bu doğru. Ancak basamaklara kimlerin çıkabildiğine bakınca tablo değişiyor. Bu programlar ağırlıklı olarak doğrulanmış güvenlik kuruluşlarını hedefliyor; en üst basamak ise ABD hükümetiyle birlikte değerlendiriliyor. Büyük bir güvenlik şirketi bu merdivenin tepesine çıkabiliyor. Peki İstanbul'daki küçük bir güvenlik firması, Ankara'daki bir üniversite laboratuvarı ya da Anadolu'nun bir şehrinde gece yarısı açık arayan bağımsız bir araştırmacı? Onlar çoğu zaman ilk basamakta, "yardımcı olamam" cevabıyla baş başa kalıyor.
Ortaya çıkan manzara bir çifte standart: Yapay zekanın açık bulabildiğini şirketlerin kendisi kanıtlıyor, bu güçten büyük ortaklar sonuna kadar yararlanıyor; aynı kapıyı çalan bağımsız araştırmacıya ise kapı aralık bile açılmıyor. Saldırgan ise o kapıyı hiç çalmıyor; başka bir kapıdan giriyor.
Neden Böyle?
Şirketlerin endişesi boş değil. Bu ay yaşanan ajan saldırısı, kontrolsüz bir gücün nelere yol açabileceğini gösterdi. Hükümetlerin baskısı da ortada; Haziran'da ABD bazı öncü modellere geçici ihracat kısıtlaması getirmişti. Bir şirket, modeliyle işlenen bir suçun faturasının kendisine kesilmesinden haklı olarak çekiniyor.
Ancak sorun kısıtlamanın varlığı değil, yöneldiği yer. Bugünkü sistemin büyük kısmı, soruyu soranın kim olduğuna değil, sorunun içeriğine bakıyor. Oysa aynı soru, bir saldırganın ağzında suç aleti, bir savunmacının elinde kalkandır. İçeriğe bakan bir filtre bu ikisini ayırt edemez; sadece dürüst olanı, yani kurallara uyanı durdurur.
Çözüm: İçeriğe Değil, Kimliğe Bakmak
Güvenlik dünyasında giderek yaygınlaşan görüş de tam olarak bu: İçerik temelli filtreleme yerine yetki temelli bir yaklaşım. Yani modelin "bu soru tehlikeli mi" diye tahmin yürütmesi yerine, "bu soruyu soran kim, buna yetkisi var mı" sorusunu sorması.
Bunun için yapılabilecekler belli. Bireysel araştırmacılar için hızlı, şeffaf ve itiraz edilebilir bir doğrulama süreci. Uluslararası geçerliliği olan güvenlik sertifikalarının ve sorumlu açık bildirme geçmişinin bu süreçte dikkate alınması. Kuralların günden güne değil, açık ve tutarlı biçimde uygulanması. Belki de en önemlisi, büyük ortaklara tanınan güvenin, işini düzgün yapan küçük ekiplere ve bağımsız araştırmacılara da tanınması.
Unutmayalım, Kara Ekim'in bize gösterdiği tablo net: Açıkları bulma hızı arttı, istismar etme hızı da. Bu yarışta savunmacının elini kolunu bağlamak, yarışı baştan karşı tarafa hediye etmek demek.
Kıssadan Hisse:
Halk arasında dolaşan bir söz vardır: "Kilit hırsız için değil, dürüst insan içindir." Gerçekten de kapıdaki kilit, işini bilen hırsızı birkaç dakika oyalar; asıl durdurduğu, o kapıyı zaten izinsiz açmayacak olan dürüst insandır.
Bugün yapay zekanın kapısına vurulan kilitler de tam olarak bunu yapıyor. İşini bilen ya kilidi bir şekilde aşıyor ya da hiç kilit olmayan başka bir kapıdan giriyor. Kapının önünde bekleyen ise o kapıyı zaten kurallara uyarak açmak isteyenler oluyor. Oysa iyi bir kilit, kapıyı herkese kapatan değil, doğru anahtarı tanıyandır.
