Sohbet robotlarının bir gizlilik kâbusu olabileceği sonucuna varan Sevgililer Günü temalı yeni bir araştırmaya göre, yapay zekâ romantizminin altında potansiyel olarak tehlikeli bir gerçeklik yattığını belirtiyor.
Kâr amacı gütmeyen internet kuruluşu Mozilla Vakfı, 11 sohbet robotunu inceleyerek gelişen ortamı değerlendirdi ve hepsinin güvenilmez olduğu sonucuna vardı.
Araştırmacı Misha Rykov, raporda romantik sohbet robotları için "Ruh sağlığınızı ve refahınızı artıracak şekilde pazarlansalar da, bağımlılık, yalnızlık ve toksisite sağlama konusunda uzmanlaşıyorlar ve tüm bunları yaparken sizden mümkün olduğunca fazla veri alıyorlar" diyor.
Rykov’un bu alanda yaptığı ankete göre, uygulamaların yüzde 73'ü güvenlik açıklarını nasıl yönettiklerini paylaşmıyor, yüzde 45'i zayıf şifrelere izin veriyor ve Eva AI Chat Bot & Soulmate hariç hepsi kişisel verileri paylaşıyor veya satıyor.
Ayrıca, CrushOn.AI'nın gizlilik politikası, Mozilla Vakfı'na göre, kullanıcıların cinsel sağlığı, reçeteli ilaçlar ve cinsiyet onaylayan bakım hakkında bilgi toplayabileceğini belirtiyor.
YAPAY ZEKÂ UYGULAMALARI İNTİHARA VE SUİKASTA TEŞVİK EDEBİLİYOR
Bazı uygulamalar, karakter açıklamalarında şiddet veya reşit olmayanların istismarına yer veren sohbet robotları içerirken, diğerleri botların güvensiz veya düşmanca olabileceği konusunda uyarıda bulundu.
Mozilla Vakfı, geçmişte uygulamaların intihar ve merhum Kraliçe 2’nci Elizabeth'e suikast girişimi de dahil olmak üzere tehlikeli eğilimleri teşvik ettiğini belirtti.
Replika'dan bir temsilci, konuya ilişkin olarak, "Replika hiçbir zaman kullanıcı verilerini satmadı ve reklamcılığı da desteklemedi ve desteklemiyor. Kullanıcı verilerinin tek kullanım amacı konuşmaları iyileştirmektir” dedi.
Mozilla Vakfı, yapay zekâ romantizmine karşı koymanın imkânsız olduğunu düşünenler için, bir iş arkadaşınızın veya aile üyenizin okumasını istemeyeceğiniz hiçbir şey söylememek, güçlü bir şifre kullanmak, yapay zekâ eğitiminden vazgeçmek ve uygulamanın konumunuz, mikrofonunuz ve kameranız gibi diğer mobil özelliklere erişimini sınırlamak gibi çeşitli önlemler alınmasını öneriyor.
Söz konusu rapor, "Havalı yeni teknolojilerin bedelini güvenliğiniz ya da mahremiyetiniz ile ödemek zorunda kalmamalısınız" diyor.
