Ana SayfaDonanımYZ güvenlik yasa tasarısı, YZ modellerinin güvenlik ihlallerini önlemeyi amaçlıyor

YZ güvenlik yasa tasarısı, YZ modellerinin güvenlik ihlallerini önlemeyi amaçlıyor

Published on

spot_img


Yapay zeka sistemlerinin tüm ihlallerini kaydeden bir veri tabanı oluşturulmasını zorunlu kılarak güvenlik sorunlarını takip etmeyi amaçlayan yeni bir yasa tasarısı Senato’ya sunuldu.

Bu Güvenli Yapay Zeka YasasıSens tarafından sunuldu. Mark Warner (D-VA) ve Thom Tillis (R-NC), Ulusal Güvenlik Ajansı’nda bir Yapay Zeka Güvenlik Merkezi kuracak. Bu merkez, tasarının “karşı yapay zeka” olarak adlandırdığı ya da yapay zeka sistemlerinin nasıl manipüle edileceğini öğrenmeye yönelik teknikler üzerine araştırmalara öncülük edecektir. Bu merkez aynı zamanda karşı yapay zeka önlemlerinin önlenmesi için rehberlik de geliştirecektir.

Tasarı aynı zamanda Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile Siber Güvenlik ve Altyapı Güvenliği Ajansı’nın “ramak kalalar” da dahil olmak üzere yapay zeka ihlallerine ilişkin bir veri tabanı oluşturmasını gerektirecek.

Warner ve Tillis’in önerdiği yasa tasarısı, YZ’ye karşı koyma tekniklerine odaklanıyor ve bunları veri zehirleme, kaçınma saldırıları, gizlilik temelli saldırılar ve kötüye kullanma saldırıları olarak sınıflandırıyor. Veri zehirleme, bir YZ modeli tarafından kazınan verilere kod eklenerek modelin çıktısının bozulduğu bir yöntemi ifade eder. Bir saldırı yöntemi olarak ortaya çıkmıştır. Yapay zeka görüntü üreticilerini önlemek için popüler yöntem internetteki sanatı kopyalamaktan. Kaçınma saldırıları, yapay zeka modelleri tarafından incelenen verileri, modelin kafasını karıştıracak kadar değiştirir.

Yapay zeka güvenliği, Avrupa Komisyonu’nun Biden yönetiminin yapay zeka idari emriNIST’i “kırmızı ekip” yönergeleri oluşturmaya yönlendiren ve YZ geliştiricilerinin güvenlik raporları sunmasını zorunlu kılan. Kırmızı ekip, geliştiricilerin kasıtlı olarak YZ modellerinin yapmamaları gereken istemlere yanıt vermelerini sağlamaya çalışmasıdır.

İdeal olarak, güçlü yapay zeka modellerinin geliştiricileri, platformları güvenlik açısından test eder ve halka açıklanmadan önce kapsamlı bir kırmızı ekip çalışmasından geçirir. Microsoft gibi bazı şirketler güvenlik korkuluklarının eklenmesine yardımcı olacak araçlar AI projelerine daha kolay.

Güvenli Yapay Zeka Yasası’nın Senato tarafından ele alınabilmesi için bir komiteden geçmesi gerekecek.



Source link

Latest articles

This modder proves everything’s better with a GBA SP screen attached

Have you ever looked at a Nintendo DS and thought it would be...

Replacing the OLED iPad Pro’s battery is easier than ever

Apple’s newest iPad Pro is remarkably rigid for how thin it is, and...

Ecobee’s Smart Thermostat Premium is nearly matching its all-time low

The temperatures are about to soar now that summer is almost upon us...

GE Profile Smart Indoor Smoker review: an easy way to barbecue indoors

My love affair with barbecue has been a slow burn. I’m from England,...

More like this

This modder proves everything’s better with a GBA SP screen attached

Have you ever looked at a Nintendo DS and thought it would be...

Replacing the OLED iPad Pro’s battery is easier than ever

Apple’s newest iPad Pro is remarkably rigid for how thin it is, and...

Ecobee’s Smart Thermostat Premium is nearly matching its all-time low

The temperatures are about to soar now that summer is almost upon us...