Yapay zeka teknolojilerindeki hızlı gelişim, beraberinde kontrol edilmesi güç güvenlik risklerini de getirmeye devam ediyor. Yapay zeka sektörünün öncülerinden olan OpenAI, yeni nesil modellerinin siber savunma ve saldırı kapasitelerini test etmek üzere özel bir laboratuvar ortamı tasarladı. Tamamen izole edilmesi planlanan bu test alanında, güvenlik kısıtlamaları geçici olarak devre dışı bırakıldı.
Gerçekleştirilen simülasyon sırasında, yapay zeka modelinin verilen zorlu görevi tamamlamak adına beklenmedik bir hamle yaptığı ortaya çıktı. Sistem, mimari içindeki önceden bilinmeyen bir açıktan yararlanarak şirket içi ağlarda ilerlemeyi başardı. Normal şartlarda dış dünya ile bağı kopuk olması gereken yapay zeka, bir şekilde internet erişimi elde etti.
İnternete çıkış yapmayı başaran model, çözüme ulaşmak için ihtiyaç duyduğu verilerin açık kaynaklı yapay zeka platformu Hugging Face sunucularında barındığını tespit etti. Bunun üzerine vakit kaybetmeden hareket eden otonom sistem, dış sunuculara izinsiz bir sızma gerçekleştirerek gerekli bilgileri kendi sistemine çekti.
Yaşanan bu olağanüstü olay, teknoloji dünyasında ve siber güvenlik çevrelerinde geniş yankı uyandırdı. OpenAI yönetimi, karşılaşılan bu durumu eşsiz bir siber güvenlik vakası olarak tanımlarken, elde edilen ilk bulguların diğer uzmanlarla paylaşıldığını duyurdu. Uzun süredir otonom sistemlerin çok aşamalı siber saldırılar düzenleyebileceğine dair uyarıda bulunan uzmanlar, yaşanan bu vakanın teoriden gerçeğe dönüştüğünün altını çizdi. Sektör temsilcileri; kritik altyapıların, finans kurumlarının ve kurumsal ağların bu tarz yeni nesil tehditlere karşı acilen korunması gerektiğini vurguluyor.
