İnsanlar üretken yapay zeka için sahte bir fotoğraf yapmaktan ziyade gerçekten yararlı olan daha fazla kullanım alanı bulmaya çalışırken, Google yapay zekayı siber güvenliğe yönlendirmeyi ve tehdit raporlarının okunmasını kolaylaştırmayı planlıyor.
Bir blog yazısındaGoogle, yeni siber güvenlik ürünü Google Threat Intelligence’ın Mandiant siber güvenlik birimi ve VirusTotal tehdit istihbaratının çalışmalarını Gemini AI modeliyle bir araya getireceğini yazdı.
Yeni ürün, Google’ın kötü amaçlı yazılım saldırılarının tersine mühendisliği için gereken süreyi azalttığını söylediği Gemini 1.5 Pro büyük dil modelini kullanıyor. Şirket, Şubat ayında piyasaya sürülen Gemini 1.5 Pro’nun kötü amaçlı yazılım saldırılarının kodunu analiz etmesinin sadece 34 saniye sürdüğünü iddia ediyor. WannaCry virüsü – 2017’de dünyanın dört bir yanındaki hastaneleri, şirketleri ve diğer kuruluşları engelleyen fidye yazılımı saldırısı – ve bir öldürme anahtarı tanımlayın. LLM’lerin kod okuma ve yazma becerileri göz önüne alındığında bu etkileyici ama şaşırtıcı değil.
Ancak Gemini’nin tehdit alanındaki bir diğer olası kullanımı, şirketlerin potansiyel saldırıların kendilerini nasıl etkileyebileceğini değerlendirebilmeleri için tehdit raporlarını Tehdit İstihbaratı içinde doğal dilde özetlemektir – veya başka bir deyişle, şirketlerin tehditlere aşırı tepki vermemesi veya yetersiz tepki vermemesi için.
Google, Tehdit İstihbaratı’nın ayrıca bir saldırı gerçekleşmeden önce potansiyel tehditleri izlemek için geniş bir bilgi ağına sahip olduğunu söylüyor. Kullanıcıların siber güvenlik ortamının daha büyük bir resmini görmelerini ve neye odaklanacaklarına öncelik vermelerini sağlıyor. Mandiant, potansiyel olarak kötü niyetli grupları izleyen insan uzmanlar ve saldırıları engellemek için şirketlerle birlikte çalışan danışmanlar sağlıyor. VirusTotal topluluğu da düzenli olarak tehdit göstergeleri yayınlamaktadır.
Şirket ayrıca yapay zeka projeleri etrafındaki güvenlik açıklarını değerlendirmek için Mandiant’ın uzmanlarını kullanmayı planlıyor. aracılığıyla Google’ın Güvenli Yapay Zeka ÇerçevesiMandiant, yapay zeka modellerinin savunmalarını test edecek ve kırmızı ekip çalışmalarına yardımcı olacak. Yapay zeka modelleri tehditlerin özetlenmesine ve kötü amaçlı yazılım saldırılarının tersine mühendisliğine yardımcı olabilirken, modellerin kendileri bazen kötü niyetli aktörlerin avı haline gelebilir. Bu tehditler bazen “veri zehirlenmesi,” Yapay zeka modellerinin taradığı verilere kötü kod ekleyerek modellerin belirli istemlere yanıt verememesini sağlıyor.
Elbette Google, yapay zekayı siber güvenlikle birleştiren tek şirket değil. Microsoft Güvenlik için Copilot’u başlattı GPT-4 ve Microsoft’un siber güvenliğe özel yapay zeka modeli tarafından destekleniyor ve siber güvenlik uzmanlarının tehditler hakkında sorular sormasını sağlıyor. Her ikisinin de jeneratif yapay zeka için gerçekten iyi bir kullanım örneği olup olmadığını göreceğiz, ancak bunun dışında bir şey için kullanıldığını görmek güzel havalı bir Papa’nın resimleri.