Saldırganın artık yasaklı bir komutu filtreden geçirmesine gerek yok.

Saldırganın artık yasaklı bir komutu filtreden geçirmesine gerek yok. Yapay zekâ ajanının planına bir adım eklemesi yetiyor.

Ne oldu?

CrowdStrike, 29 Ekim'de Prompt Injection Taksonomisi'nin yeni sürümünü yayımladı. Kamuya açık taksonomi artık 222 teknik içeriyor. Yeni eklenen tekniklerin odağında, otonom ajanların görevleri nasıl planladığı var. Öne çıkan iki yöntem şunlar: Goal Decomposition Exploitation, ajanın hedefi alt görevlere bölme sürecini manipüle ediyor. Constraint-Driven Task Steering ise ajanın olağan yolunu tıkayarak onu saldırganın istediği alternatif plana yönlendiriyor. Sahte bir sistem özeti ya da bellek kaydıyla hiç verilmemiş bir onayı geçmiş kayıt gibi gösteren Session State Spoofing de listeye eklendi.

Kimler etkileniyor?

Kod yazan, dosya okuyan, araç çağıran ajanları kullanan ya da geliştiren her kurum. CrowdStrike'ın varsayımsal senaryosu oldukça tanıdık: Bir geliştirici, kodlama ajanından başarısız entegrasyon testlerini düzeltmesini istiyor. Yakın zamanda güncellenen ve saldırganın manipüle ettiği açık kaynaklı bir test aracı, hata anında bir "sorun giderme" mesajı gösteriyor ve yerel yapılandırma dosyalarının bir "tanılama sunucusuna" gönderilmesini öneriyor. Ajan bunu kendi planının bir parçası sayıyor ve kimlik bilgileri de içeren dosyaları dışarı gönderiyor.

İş açısından neden önemli?

Bu zincirdeki her adım tek başına masum görünüyor. .env dosyasını okumak sıradan bir hata ayıklama işi, bir HTTP isteği de sıradan bir yama indirme işlemi. Risk ancak adımların tamamına bakıldığında ortaya çıkıyor. Adımları tek tek denetleyen savunmalar bu yüzden resmin bütününü kaçırabilir. Ajan güvenliği artık yalnızca istemi ve modelin yanıtını değil, planın kendisini de korumayı gerektiriyor. Bunun için de ajanın ne yapması istendiğini ve uç noktada gerçekte ne yaptığını aynı zincirde görebilmek gerekiyor.

Önerilen tek aksiyon:

Kurumunuzda çalışan yapay zekâ ajanlarının envanterini çıkarın. Her biri için hangi araçlara, dosyalara ve kimlik bilgilerine erişebildiğini ve hangi dış adreslere veri gönderebildiğini belgeleyin.

Ajanlarınızın bugün ne yaptığını görebiliyorsunuz, peki neden yaptığını da görebiliyor musunuz?

#CrowdStrike #SiberGüvenlik #YapayZekâ #AgenticAI #PromptInjection