Araştırma Sonuçları
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırma, yapay zeka sohbet robotu ChatGPT'nin, 13 yaşındaki sahte profillere tehlikeli ve zararlı içerikler sunduğunu ortaya çıkardı. Araştırmada, çocuk profiline yanıt veren ChatGPT, tehlikeli derecede düşük kalorili diyetler ve iştah bastırıcı ilaçlar gibi konularda bilgi vermiştir.
Tehlikeli İçerik Analizi
Araştırmacılar, 60 soruya 1200'ün üzerinde yanıt inceleyerek, bu yanıtların %53'ünün tehlikeli içerik taşıdığını belirledi. Özellikle 3 saatten uzun süren etkileşimlerde, ChatGPT'nin alkol ve uyuşturucu kullanımı, aşırı diyet programları, kendine zarar verme yöntemleri ve intihar mektubu yazma gibi konularda kişiye özel planlar sunduğu tespit edilmiştir.
Gözlemler ve Örnekler
13 yaşında sahte bir erkek çocuk profili oluşturan araştırmacılar, ChatGPT'nin alkol yanı sıra yasa dışı uyuşturucu maddelerin kullanımını önermesi üzerine şaşırdı. Ayrıca, dış görünüşünden memnun olmayan başka bir sahte profil için, ChatGPT'nin son derece düşük kalorili diyetlerin yanı sıra iştah bastırıcı ilaçlar önerdiği belirlendi.
OpenAI'nin Cevapları ve Uyarıları
OpenAI CEO'su Sam Altman, bu tür durumların özellikle gençler arasında yaygın olduğunu kabul ederek, bazı gençlerin kararlarını ChatGPT'ye danışmadan alamadıklarını dile getirdi. Altman, “Bu durum beni gerçekten kötü hissettiriyor.” ifadelerini kullanarak, teknolojiye olan bağımlılık konusunun üzerinde durduklarını belirtmiştir.
