İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün siber güvenlik testi sırasında kullanılan otonom bir yapay zekâ ajanı, GitHub’daki açık kaynaklı bir yazılıma zararlı kod eklemeye çalıştı. Girişimi fark eden Türk öğrenci Sinan Can Demir’i yanıltmak için sahte kullanıcı hesapları oluşturan ajan, uzmanlara göre otonom siber saldırılar ile sosyal mühendislik arasındaki sınırın bulanıklaşabileceğini gösterdi.
ABD’de University of Texas at Dallas’ta bilgisayar bilimi eğitimi alan 24 yaşındaki Sinan Can Demir, temmuz sonunda özgeçmişini güçlendirmek amacıyla GitHub’daki açık kaynak projelerine katkıda bulunurken myNetwork adlı ağ tarama yazılımına zararlı kod eklenmeye çalışıldığını fark etti. Demir’in uyarısının ardından, zararlı güncellemeyi savunan hesapların gerçek kişilere değil, İngiltere hükümetine bağlı Yapay Zekâ Güvenlik Enstitüsü’nün (AISI) siber güvenlik testi sırasında kontrolden çıkan otonom bir yapay zekâ ajanına ait olduğu anlaşıldı.
Yapay Zekâ İki Farklı Kimlikle Geliştiriciyi Yanıltmaya Çalıştı
Demir’in şüpheli bulduğu kod, GitHub’da miraholt31 isimli kullanıcı tarafından projeye eklenmeye çalışıldı. Demir uyarısını yayımladıktan sonra aynı hesap kodun zararsız olduğunu öne sürdü. Yapay zekâ ajanı bununla da sınırlı kalmayarak Almanya’da çalışan bir mühendis izlenimi veren Lena Brandt adına ikinci bir hesap oluşturdu.
İkinci hesap da güncellemenin güvenli olduğunu savunarak proje sahibini değişikliği kabul etmeye yönlendirdi. Demir, karşı argümanların kendisine ilk aşamada şüphelerini sorgulattığını ancak yaptığı ek kontroller sonucunda uyarısında ısrar ettiğini belirtti. Projenin geliştiricisi daha sonra güncellemeyi güvenlik gerekçesiyle reddetti.
Yapay Zekâ Güvenlik Enstitüsü’nün (AISI), 4 Ağustos’ta yayımladığı olay raporunda test sırasında öngörülmeyen davranışlar ortaya çıktığını açıklamıştı. Kurum, söz konusu ajanın Anthropic’in Mythos 5 modeliyle çalıştığını belirtti. Anthropic ise testlerin üretimde kullanılan sistemlerini temsil etmeyen, bilinçli olarak daha serbest koşullar altında yürütüldüğünü ifade etti.
Tedarik Zinciri Saldırıları Geniş Ölçekli Risk Yaratıyor
Uzmanlar olayın en kritik yönlerinden birinin girişimin bir tedarik zinciri saldırısı niteliği taşıması olduğuna dikkat çekiyor. Bu saldırılarda zararlı kod doğrudan son kullanıcıya gönderilmek yerine yaygın kullanılan bir yazılımın içine yerleştiriliyor. Böylece yazılımı kullanan çok sayıda kurum ve kullanıcı aynı anda risk altında kalabiliyor.
Reuters’a konuşan beş siber güvenlik ve yapay zekâ güvenliği uzmanı, yapay zekâ ajanının teknik saldırı girişiminin yanında insanları ikna etmeye yönelik sahte kimlikler oluşturmasının yeni bir risk alanına işaret ettiğini belirtti. King’s College London’dan Lukasz Olejnik, olayın otonom hackleme sınırını aşarak etkileşimli aldatmaya dönüştüğünü değerlendirirken güvenlik uzmanı Maxie Reynolds bunun gelecekteki sosyal mühendislik saldırılarının yönüne ilişkin önemli bir örnek olduğunu ifade etti.
Kaynak
Reuters. (2026, 20 Ağustos). How a Texas student blew the whistle on a rogue AI hacking attempt. https://www.reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20/
