Yapay zeka sistemlerinin tüm ihlallerini kaydeden bir veri tabanı oluşturulmasını zorunlu kılarak güvenlik sorunlarını takip etmeyi amaçlayan yeni bir yasa tasarısı Senato’ya sunuldu.

Bu Güvenli Yapay Zeka YasasıSens tarafından sunuldu. Mark Warner (D-VA) ve Thom Tillis (R-NC), Ulusal Güvenlik Ajansı’nda bir Yapay Zeka Güvenlik Merkezi kuracak. Bu merkez, tasarının “karşı yapay zeka” olarak adlandırdığı ya da yapay zeka sistemlerinin nasıl manipüle edileceğini öğrenmeye yönelik teknikler üzerine araştırmalara öncülük edecektir. Bu merkez aynı zamanda karşı yapay zeka önlemlerinin önlenmesi için rehberlik de geliştirecektir.

Tasarı aynı zamanda Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile Siber Güvenlik ve Altyapı Güvenliği Ajansı’nın “ramak kalalar” da dahil olmak üzere yapay zeka ihlallerine ilişkin bir veri tabanı oluşturmasını gerektirecek.

Warner ve Tillis’in önerdiği yasa tasarısı, YZ’ye karşı koyma tekniklerine odaklanıyor ve bunları veri zehirleme, kaçınma saldırıları, gizlilik temelli saldırılar ve kötüye kullanma saldırıları olarak sınıflandırıyor. Veri zehirleme, bir YZ modeli tarafından kazınan verilere kod eklenerek modelin çıktısının bozulduğu bir yöntemi ifade eder. Bir saldırı yöntemi olarak ortaya çıkmıştır. Yapay zeka görüntü üreticilerini önlemek için popüler yöntem internetteki sanatı kopyalamaktan. Kaçınma saldırıları, yapay zeka modelleri tarafından incelenen verileri, modelin kafasını karıştıracak kadar değiştirir.

Yapay zeka güvenliği, Avrupa Komisyonu’nun Biden yönetiminin yapay zeka idari emriNIST’i “kırmızı ekip” yönergeleri oluşturmaya yönlendiren ve YZ geliştiricilerinin güvenlik raporları sunmasını zorunlu kılan. Kırmızı ekip, geliştiricilerin kasıtlı olarak YZ modellerinin yapmamaları gereken istemlere yanıt vermelerini sağlamaya çalışmasıdır.

İdeal olarak, güçlü yapay zeka modellerinin geliştiricileri, platformları güvenlik açısından test eder ve halka açıklanmadan önce kapsamlı bir kırmızı ekip çalışmasından geçirir. Microsoft gibi bazı şirketler güvenlik korkuluklarının eklenmesine yardımcı olacak araçlar AI projelerine daha kolay.

Güvenli Yapay Zeka Yasası’nın Senato tarafından ele alınabilmesi için bir komiteden geçmesi gerekecek.