Ana SayfaGenelMicrosoft açılış yapay zeka şeffaflık raporunu yayınladı

Microsoft açılış yapay zeka şeffaflık raporunu yayınladı

Published on

spot_img


Onun içinde Sorumlu Yapay Zeka Şeffaflık RaporuMicrosoft, esas olarak 2023 yılını kapsayan raporunda, yapay zeka ürünlerini güvenli bir şekilde dağıtma konusundaki başarılarından bahsediyor. Yıllık YZ şeffaflık raporu, şirketin geçen yıl Temmuz ayında Beyaz Saray ile gönüllü bir anlaşma imzaladıktan sonra verdiği taahhütlerden biri. Microsoft ve diğer şirketler sorumlu YZ sistemleri kurma ve güvenlik taahhüdünde bulunma sözü verdiler.

Microsoft raporda, geçtiğimiz yıl 30 sorumlu YZ aracı oluşturduğunu, sorumlu YZ ekibini büyüttüğünü ve üretken YZ uygulamaları yapan ekiplerin geliştirme döngüsü boyunca riskleri ölçmesini ve haritalamasını gerektirdiğini söylüyor. Şirket şunları belirtiyor İçerik Kimlik Bilgileri eklendi Bir fotoğrafa filigran koyarak onu bir yapay zeka modeli tarafından yapılmış olarak etiketleyen görüntü oluşturma platformlarına.

Şirket, Azure AI müşterilerine nefret söylemi, cinsel içerik ve kendine zarar verme gibi sorunlu içerikleri tespit eden araçların yanı sıra güvenlik risklerini değerlendiren araçlara erişim sağladığını söylüyor. Buna yeni jailbreak algılama yöntemleri de dahil. Mart ayında genişledi bu yıl, kötü niyetli talimatların yapay zeka modeli tarafından alınan verilerin bir parçası olduğu dolaylı istem enjeksiyonlarını da içerecek şekilde genişletildi.

Aynı zamanda kırmızı-teaming Yapay zeka modellerindeki güvenlik özelliklerini kasıtlı olarak atlamaya çalışan kurum içi kırmızı ekiplerin yanı sıra yeni modelleri piyasaya sürmeden önce üçüncü tarafların test etmesine izin vermek için kırmızı ekip uygulamaları da dahil olmak üzere çabalar.

Ancak kırmızı ekip birimlerinin işi başından aşkın. Şirketin yapay zeka sunumları tartışmalardan muaf değil.

Microsoft’un yapay zeka sorumlusu Natasha Crampton, Microsoft’a gönderdiği bir e-postada şunları söylüyor The Verge Şirket, yapay zekânın hâlâ devam eden bir çalışma olduğunu ve sorumlu yapay zekânın da öyle olduğunu anlıyor.

“Sorumlu YZ’nin bitiş çizgisi yoktur, bu nedenle Gönüllü YZ taahhütleri kapsamındaki çalışmalarımızı asla tamamlanmış saymayacağız. Ancak bunları imzaladığımızdan bu yana güçlü bir ilerleme kaydettik ve bu yıl ivmemizi artırmayı dört gözle bekliyoruz,” diyor Crampton.



Source link

Latest articles

Bluesky now lets you send DMs

Bluesky will now let you send a direct message to other users. For...

Lawyers say OpenAI could be in real trouble with Scarlett Johansson

OpenAI could face legal consequences for making a ChatGPT voice that sounds a...

Google could cut funding to more US news publishers

After threatening to remove links to California news outlets due to a new...

OpenAI’s News Corp deal licenses content from WSJ, New York Post, and more

OpenAI has struck a deal with News Corp, the media company that owns...

More like this

Bluesky now lets you send DMs

Bluesky will now let you send a direct message to other users. For...

Lawyers say OpenAI could be in real trouble with Scarlett Johansson

OpenAI could face legal consequences for making a ChatGPT voice that sounds a...

Google could cut funding to more US news publishers

After threatening to remove links to California news outlets due to a new...