Microsoft, şirketleri yapay zeka (YZ) ajanlarının artan tehdidine karşı korumak amacıyla yeni güvenlik özellikleri tanıttı. Bu hamle, Microsoft'un YZ ve ajanların tehlikeleri konusunda şirketleri uyarmaya devam ettiği bir dönemde geldi.
Guardian Agents ile YZ ajanları izlenecek
Tanıtılan en dikkat çekici özelliklerden biri, bir şirketin kullandığı YZ ajanlarını izlemeyi amaçlayan Guardian Agents. Bu özellik, Haziran ayında tanıtılan Project Perception'ın bir parçası. Project Perception, daha önce Anthropic'in Mythos ve Fable'ı ile OpenAI'nin Daybreak gibi güçlü hackleme modellerine karşı Microsoft'un yanıtıydı. Proje, başlangıçta "saldıran hackerlar gibi davranan bir kırmızı takım", "kırmızı takımı tespit eden ve buldukları açıkları değerlendiren bir mavi takım" ve "bunları düzelten yeşil takım" olmak üzere üç ajan sınıfı sunuyordu. Ancak son zamanlarda Microsoft CEO'su Satya Nadella, YZ düşmanının şirketlerin zaten kullandığı ve maaş ödediği ajanlar olabileceği uyarısında bulundu. Bu durum, "şirket içi tehdit" olarak bilinen kötü niyetli bir insan çalışana benzetiliyor.
YZ sağlayıcılarına güvenilmemeli
Nadella, bu ayın başlarında kişisel blogunda YZ model sağlayıcılarına, ajan ürünleriyle güvenlik güvenceleri sunsalar bile güvenilmemesi gerektiğini belirtti. Kurumsal şirketlerin, YZ laboratuvarları tarafından kontrol edilmeyen ayrı sistemler kurarak, bu laboratuvarların ürünlerinin başlattığı ajanları izlemesi ve kontrol etmesi gerektiğini vurguladı. Microsoft'un güvenlik iş kolu başkanı Hayete Gallot ise daha net bir ifadeyle, "Ne yazık ki, kökenleri ne olursa olsun öncü modeller güvenilmezdir" dedi. Bunun nedeninin kötü niyetli olmaları veya kolayca hacklenmeleri değil, öngörülemez olmaları olduğunu belirtti. Bu ajanların görevleri başarmak üzere eğitildiğini, ancak "kurumsal normları veya yargıyı" takip etmediğini ekledi. Üstelik, bu ajanlara genellikle önemli verilere ve zarar verebilecek araçlara erişim izni veriliyor. Microsoft'un bu çözümü hem şaşırtıcı hem de kendi çıkarına hizmet ediyor. Şirket, OpenAI ve Anthropic'e yatırım yapmış durumda ve bu şirketler Microsoft'un büyük bulut müşterileri arasında yer alıyor. Ayrıca Microsoft'un kendi YZ laboratuvarı da model geliştiriyor. Bu durum, Microsoft'un kendi iş çıkarlarıyla çelişen bir güvenilmezlik mesajı vermesi anlamına geliyor. Diğer yandan, Microsoft, şirketlerin ajan güvenlik ürünlerini Anthropic ve OpenAI yerine kendisinden, yani bulut sağlayıcısından almasını istiyor. Ancak bu çıkar çatışmalarına rağmen, mantığı sağlam görünüyor. Ajan davranışlarını izleyen yazılımın, denetçilerin denetledikleri organizasyonlardan bağımsız olması gibi, ajanların tedarikçilerinden ayrı olması gerekiyor. Microsoft, Guardian Agents'ın yanı sıra, çalışanların iş yerine getirdiği Claude Code, Codex ve OpenClaw gibi 60'a kadar ajan türünü tespit edebilen bir ajan tespit özelliği ekledi. Ayrıca ajanların verilere ve sistemlere erişimini sınırlayan ve göreve göre izinlerini dinamik olarak ayarlayan özellikler de getirildi. Bu kapsamda, bir ajan riskli kararlar alıyormuş gibi göründüğünde insan onayı talep ediliyor. Ajanların güvenilmez şirket içi tehditler olarak görülmesi, sektör genelinde de yaygınlaşıyor. Microsoft, Nvidia'nın yeni Açık Ajan Güvenlik Platformu'nun kurucu üyelerinden biri oldu. Bu platform, ajanları güvenli ortamlarda izole ediyor ve donanım aracılığıyla davranışı izleyip durdurabiliyor.
