Kod Asistanlarında Prompt Injection: Riskler ve Önlemler

Yapay zekâ destekli kod asistanlarının güvenliği, yalnızca kullanıcının yazdığı komutlara bağlı değildir. Asistanın projeyi anlamak için okuduğu dosyalar da davranışını etkileyebilir. Bir README dosyasına veya proje kurallarına yerleştirilen kötü niyetli yönergeler, asistanı kullanıcının amaçlamadığı işlemlere yönlendirebilir. X Mind Solutions olarak bu riski değerlendirirken temel soruyu şöyle kuruyoruz: Asistan hangi içeriği bilgi, hangi içeriği uygulanacak talimat olarak kabul ediyor ve bu ayrımı nasıl koruyor?

Prompt injection, bir metnin içine yerleştirilen yönergelerle yapay zekânın davranışının yönlendirilmesidir. Kod asistanlarında bu girişim, doğrudan kullanıcı mesajından değil, asistanın okuduğu başka bir kaynaktan gelebilir. README, issue veya wiki içeriği, projeyi açıklayan bilgi olmaktan çıkıp eylem talebine dönüşebilir. Kritik nokta, dış kaynaktaki metnin kullanıcı yetkisi taşıyormuş gibi değerlendirilmesidir. Böyle bir durumda asistan, asıl göreviyle ilgisiz kurulum veya komut önerilerini izlemeye başlayabilir.

Cursor türü araçların proje içi kuralları ve README gibi dosyaları bağlama alması, bu içeriklerin güvenlik açısından da incelenmesini gerektirir. Ancak bir dosyanın okunması, tek başına bilgisayarın ele geçirildiği anlamına gelmez. Riskin etkisi; asistanın komut çalıştırma yetkisine, erişebildiği verilere ve onay mekanizmalarına bağlıdır. Kötü niyetli yönlendirme bu yetkilerle birleştiğinde paket kurulumu, ayar değişikliği, yetkisiz komut çalıştırma veya kimlik bilgilerinin sızması gibi sonuçlara yol açabilir.

İlk savunma adımı, asistanın yapabileceklerini görev için gerekenlerle sınırlamaktır. Editörü veya ajanı yönetici ayrıcalıklarıyla çalıştırmamak, en az ayrıcalık ilkesinin temel bir uygulamasıdır. Otomatik komut çalıştırmayı kapatmak ve kurulum gibi işlemleri kullanıcı onayına bağlamak da kontrol alanı oluşturur. Bununla birlikte onay, yalnızca bir düğmeye basmak olmamalıdır: Çalıştırılacak komutun amacı, etkilediği dosyalar ve gerektirdiği erişimler anlaşılmadan işlem başlatılmamalıdır. Belirsiz bir talep, açıklığa kavuşturulana kadar durdurulmalıdır.

Proje belgelerini kod incelemesinden ayrı, zararsız bir alan olarak görmek yerine, asistanın davranışını etkileyebilecek içerikler olarak değerlendirmek gerekir. README, kural dosyaları ve issue değişikliklerinde beklenmedik kurulum taleplerini, görev dışı komutları ve veri aktarma yönlendirmelerini sorgulayın. Dış kaynaklı metinleri varsayılan olarak güvenilmez kabul edin. Amaç yapay zekâ kullanımını durdurmak değil; okunan içerikle verilen yetki arasındaki sınırı koruyarak otomasyonu denetlenebilir tutmaktır. Güvenli kullanım, bu sınırın günlük geliştirme akışında korunmasına dayanır.