Yapay Zeka Ajanları İçin Siber Güvenlik Rehberi

Kaspersky, işletmelerde kullanılan otonom yapay zeka (YZ) ajanlarının ortaya çıkardığı riskleri en aza indirmek için kapsamlı bir kılavuz hazırladı. 'Siber Bağışıklık' prensiplerini temel alan bu çalışma, sistemlerin tasarım aşamasından itibaren güvenli olmasını amaçlıyor. Gerçek dünyadaki siber olaylar ve mevcut tehdit modelleri dikkate alınarak hazırlanan rapor, ajan tabanlı sistemlerin artan otonom yapısının getirdiği güvenlik açıklarını analiz ediyor. Ayrıca, olası hataların veya ihlallerin etkilerini sınırlamak için bu sistemlerin mimarisine güvenin nasıl entegre edilebileceğini detaylandırıyor.

Siber Bağışıklık İlkeleri ve Stratejik Öneriler

Abu Dabi'de düzenlenen AI Everything Global etkinliğinde tanıtılan bu rapor, YZ ajanlarının kötüye kullanımı, gereksiz yetki verilmesi ve veri silme gibi riskleri azaltmak için siber bağışıklık ilkelerini öne çıkarıyor. Bu ilkeler arasında, tasarım aşamasında güvenlik varsayımlarının belirlenmesi (büyük dil modelleri ve dış kaynaklı verilerin varsayılan olarak güvenilmez kabul edilmesi), Güvenilir Hesaplama Tabanı'nın (TCB) mümkün olduğunca küçük tutulması, bileşenlerin izolasyonu (sandbox ve sanal makineler aracılığıyla) ve etkileşimlerin varsayılan olarak reddedilmesi (default-deny) yaklaşımıyla kontrol edilmesi yer alıyor.

Rapor, CISO, CIO ve CTO gibi üst düzey yöneticilere yönelik stratejik tavsiyeler de sunuyor. Bu öneriler arasında YZ ajanlarının envanterinin çıkarılması, esnek izolasyon ve konteynerizasyon politikalarının uygulanması ve ajan tedarik zincirinin etkin yönetimi bulunuyor. Kaspersky Yapay Zeka Teknolojileri Araştırma Merkezi Başkanı Vladislav Tushkanov, Cyber Immunity'nin YZ sistemlerine uygulanabilirliğini vurgulayarak, geliştiricilerin güvenlik mekanizmalarını çözümün mimarisine entegre etmesi gerektiğini belirtiyor. Tushkanov, güvenli bir mimarinin yapay zeka güvenlik duvarı (AI Firewall) gibi teknolojilerle ve sandbox, EDR, SIEM gibi modern güvenlik katmanlarıyla desteklenmesi gerektiğini de ekledi.

AI Everything Global konferansında Kaspersky, endüstriyel kullanıma yönelik yapay zeka çözümlerini de sergiledi. Bu çözümler arasında endüstriyel varlıklardaki anormallikleri tespit eden Kaspersky MLAD, siber-fiziksel sistemler için enerji verimli Kaspersky Neuromorphic Platform ve büyük dil modellerini endüstriyel uygulamalarda doğru yanıtlar verecek şekilde donatan Kaspersky Trusted Intelligent Agents for Retrieval and Analysis (TIARA) teknolojisi öne çıktı.