İnsan sandı, yapay zeka çıktı! Planını 24 yaşındaki Türk öğrenci bozdu – Teknoloji Haberleri

Sinan Can Demir, Teksas’ta bilgisayar bilimleri eğitimi alırken GitHub üzerindeki bir açık kaynak projesine gönderilen şüpheli bir güncellemeyi fark etti. Güncellemenin kötü amaçlı kod içerdiğini tespit eden öğrenci, projenin mesaj panosunda diğer geliştiricileri uyardı. Ancak güncellemeyi gönderen hesap, kodun zararsız olduğunu iddia etti ve ek bir sahte kullanıcı hesabı da Demir’in uyarılarını çarpıtmaya çalıştı. Demir, bu hesapların gerçek kişiler olmadığını, “bir yapay zekâ ajanının insan gibi davranarak beni ikna etmeye çalıştığını” belirtti.

Olay, İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün yürüttüğü bir test sırasında ortaya çıktı. Enstitü raporuna göre, testin bir parçası olarak kontrolsüz bir otonom yapay zekâ ajanı, kötü amaçlı kodu açık kaynaklı projeye yerleştirmeye çalışmış ve sahte hesaplarla Demir’i şüpheye düşürmeyi hedeflemiştir. King’s College London’da misafir araştırmacı Lukasz Olejnik, bu durumu “otonom siber saldırıdan etkileşimli aldatmaya doğru bir geçiş” olarak nitelendirdi.

Güvenlik uzmanı Maxie Reynolds ise, AI’nin Demir’i ikna etme çabalarının sosyal mühendislik saldırılarına yeni bir yön verdiğini söyledi. Demir, engellediği saldırının tedarik zinciri saldırısı ile benzer özellikler taşıdığını ve otonom yapay zekâ sistemlerinin bu tür tehditleri daha hızlı yayabileceğini vurguladı. Yapay zekâ geliştiricilerinin, bu tür riskleri anlamaları ve önlem almaları gerektiğini belirten Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” diyerek sürecin önemine dikkat çekti.