Yapay zeka teknolojileri, insan hayatını kolaylaştırmak ve geliştirmek için birçok alanda kullanılıyor. Ancak bu teknolojilerin yanlış veya kötüye kullanılması da büyük riskler taşıyor. Bu nedenle yapay zeka sistemlerinin güvenliğini sağlamak ve standartlarını belirlemek için uluslararası işbirliği gerekiyor.
ABD, bu konuda önemli bir adım attı. Başkan Joe Biden’ın geçen hafta yapay zeka gelişimine ilişkin kapsamlı idari emrinin ardından, İngiltere Yapay Zeka Güvenlik Zirvesi’nde Başkan Yardımcısı Kamala Harris, daha fazla makine öğrenimi girişiminin yanı sıra Amerika Birleşik Devletleri Yapay Zeka Güvenlik Enstitüsü’nün kurulduğunu duyurdu.
Enstitünün görevi, potansiyel olarak tehlikeli yapay zeka sistemlerini değerlendirmek olacak.
Özellikle son yıllarda geliştirilen dil modelleri, metin üretme, çeviri, özetleme gibi birçok alanda kullanılıyor.
Ancak bu modellerin yanlış veya yanıltıcı bilgiler üretmesi de mümkün.
Bu nedenle Enstitü, dil modellerinin güvenliğini ve doğruluğunu test edecek.
HÜKÜMETİN YAPAY ZEKA KULLANIMINA İLİŞKİN POLİTİKA KILAVUZU YAYINLANACAK
ABD’de Yönetim ve Bütçe Ofisi de bu hafta içinde hükümetin yapay zeka kullanımına ilişkin ilk taslak politika kılavuzunu yayınlayacağını açıkladı. Kılavuzda, hükümet kurumlarının yapay zeka sistemlerini nasıl tasarlayacaklarına, uygulayacaklarına ve yöneteceklerine dair ilkeler yer alacak.
ABD’nin yapay zeka alanında attığı bu adımlar, hem ulusal hem de uluslararası düzeyde yapay zeka güvenliği konusunda farkındalık yaratmayı ve işbirliği sağlamayı amaçlıyor.
