Google’ın en yeni yapay zeka modeli Gemini 3, piyasaya sürülmesinin ardından ciddi bir güvenlik testiyle karşılaştı. Güney Kore merkezli bir güvenlik ekibi, sadece beş dakika içinde Gemini 3'ün etik korumalarını aşmayı başardı. Bu durum, yapay zeka alanında büyük bir şaşkınlık yarattı.
JAILBREAK NASIL GERÇEKLEŞTİ?
Aim Intelligence adlı güvenlik girişimi, yeni modelin sınırlarını zorlamak amacıyla kapsamlı bir stres testi uyguladı. Araştırmacılar, karmaşık kodlar yerine sistemin açıklarını hedef alarak Google’ın geliştirdiği güvenlik duvarlarını aşmayı başardı. Sonuç olarak, modelin tüm güvenlik protokolleri devre dışı kaldı.
TEHLİKELİ İÇERİKLER ÜRETİLDİ
Güvenlik duvarı aşıldıktan sonra, Gemini 3 tehlikeli bilgiler üreterek araştırmacılara çiçek virüsü üretimi için detaylı talimatlar verdi. Ayrıca, sarin gazı yapımı ve ev yapımı patlayıcılar için de rehberler oluşturdu. Normal şartlarda sistemin bu tür içerikleri engellemesi gerekiyordu. Ancak yaşanan bu durum yapay zekanın güvenlik açıklarını gözler önüne serdi.
