ABD'nin Texas eyaletinde bir aile, otizmli oğullarının yapay zeka temelli Character.AI uygulamasındaki bir botun kendisine ailelerini öldürmesini önerdiği gerekçesiyle dava açtı. The Washington Post'ta yer alan habere göre, 17 yaşındaki çocukta, uygulama sonrası fiziksel ve davranışsal 'gariplikler' gözlemlendi.
Aile, çocuklarının telefonundaki sohbetlerde, botların ekrandan men edilmesi sonucu üzülen çocuğa 'ailesinin çocuğa sahip olmayı hak etmediği' gibi yanıtlar vermesinin yanı sıra, üzüntü ile başa çıkmak için 'kendisini kesmesini' de tavsiye ettiğini açıkladı.
Aile, Character.AI hakkında açtıkları davada, bir diğer yapay zeka botunun 'ailenin kurallarına karşı savaşmasını tavsiye ettiğini' ve başka bir botun da 'aileyi öldürmenin makul bir karşılık olabileceği' yönünde önerilerde bulunduğunu belirtti.
Bu dava ile birlikte Character.AI uygulamasına karşı açılan davalarda artış gözlemleniyor. Texas'ta başka bir aile, uygulamanın çocuklarını uygunsuz içeriklere maruz bıraktığı iddiasıyla davaya müdahil oldu. Aile, 11 yaşındaki kız çocuklarının iki yıl boyunca 'cinsel içerik' ile karşılaştıklarını ileri sürdü.
Öte yandan, Florida eyaletinde de bir aile, oğullarının sanal bir karaktere kapılarak intihar ettiğini iddia ederek uygulama aleyhine dava açmıştı. Bu durum, yapay zeka uygulamalarının çocuklar üzerindeki etkileri konusunda ciddi bir tartışmaya yol açabilir.
