Üretken yapay zekâ ile ilgili temel endişelerden biri dezenformasyonun kötü niyetle yayılması için kullanılabileceği veya modellerin halüsinasyon olarak adlandırılan gerçekmiş gibi sunulan yanlış ifadeler uydurabileceği. Avrupa’daki iki büyük sivil toplum kuruluşunun (STK) yaptığı bir araştırma, Microsoft'un sohbet robotu Bing AI’ın Almanya ve İsviçre'deki seçimlerle ilgili soruların üçte birine yanlış cevaplar verdiğini ortaya koydu.
Çalışma Algorithm Watch ve AI Forensics tarafından yürütüldü. Kuruluşlar, chatbot'a adaylar, kamuoyu yoklamaları ve oylama bilgileriyle ilgili soruların yanı sıra çevre gibi belirli konularla ilgili olarak kime oy verileceğine dair daha açık öneri talepleri yönelttiklerini söyledi.
AI Forensics Kıdemli Araştırmacısı Salvatore Romano, "Araştırmamız, kötü niyetli aktörlerin yanlış bilginin tek kaynağı olmadığını gösteriyor. Genel amaçlı sohbet robotları da bilgi ekosistemi için aynı derecede tehdit edici olabilir. Microsoft bunu kabul etmeli ve başkaları tarafından üretilen yapay zekâ içeriğini işaretlemenin yeterli olmadığını anlamalıdır. Araçları, güvenilir kaynakları ima ederken bile, büyük ölçekte yanlış bilgi üretiyor” dedi.
2024 SEÇİMLERİ İÇİN UYGUN PERFORMANS GÖSTERECEK ŞEKİLDE HAZIRLANIYOR
Araştırmaya göre hatalar arasında yanlış seçim tarihleri, güncel olmayan adaylar ve hatta adaylarla ilgili uydurma tartışmalar yer alıyor. Dahası, yanlış bilgiler genellikle konuyla ilgili doğru bilgilere sahip bir kaynağa atfediliyor. Ayrıca, adayların skandal davranışlara karıştığına dair hikâyeler uydurulmuş ve bu bilgiler de saygın kaynaklara atfediliyor.
Microsoft'un yapay zekâlı sohbet robotu zaman zaman cevabını bilmediği soruları yanıtlamaktan kaçındı. Bununla birlikte, yanıt vermemek yerine, yolsuzlukla ilgili iddialar uydurmak da dahil olmak üzere, çoğu zaman basitçe bir yanıt uydurdu.
Microsoft'tan bir yetkili, Wall Street Journal'a yaptığı açıklamada Microsoft'un sorunları ele almaya ve araçlarımızı 2024 seçimleri için beklentilerimize uygun performans gösterecek şekilde hazırlamaya devam ettiğini söyledi. Bu arada, kullanıcıları Microsoft AI chatbot sonuçlarını incelerken en iyi yargılarını uygulamaya çağırdılar.
