Uzmanlardan uyarı: Yapay zeka teknolojik ve psikolojik riskler taşıyor
ODTÜ Bilgisayar Mühendisliği Öğretim Üyesi ve yapay zeka araştırmacısı Doç. Dr. Hande Alemdar ile Ankara Eğitim Araştırma Hastanesi Psikiyatri İdari Sorumlusu Uzman Doktor Huriye Aslan, yapay zekanın getirdiği fırsatların yanında barındırdığı riskleri İhlas Haber Ajansı muhabirine değerlendirdi.
Kapalı kutu sistemler ve teknolojik riskler
Alemdar, günümüzdeki büyük ölçekli yapay zeka modellerinin çoğunun kapalı kutu yapıda geliştirildiğine dikkat çekti. Bu sistemlerin yalnızca büyük şirketlerin erişebildiği veri ve hesaplama kaynaklarıyla ortaya çıktığını, dolayısıyla dışarıdan tüm detayların bilinmesinin zor olduğunu belirtti. Araştırmacıların erişebildikleri ölçüde bu sistemleri test ederek, örneğin kendi kendini kopyalama veya yedekleme gibi özelliklerin olup olmadığını anlamaya çalıştıklarını aktaran Alemdar, yapılan çalışmalarda bazı sistemlerde bu tür davranış belirtisi görüldüğünü ancak bunun şu an için korkulacak bir düzeyde olmadığını söyledi.
Kullanıcı verileri, mahremiyet ve sorumluluk
Alemdar, kullanıcıların dijital etkileşimleri sırasında farkında olmadan veri ürettiklerini ve birçok platformda küçük onay kutularına tıklayarak verilerinin paylaşılmasına izin verdiklerini vurguladı. Bu bağlamda önemli tespiti şu şekilde özetledi: Gerçekten çalmıyorlar, biz onlara o yetkiyi vermiş oluyoruz. Kullanıcıların hizmetleri kullanmadan önce koşulları detaylı incelemeleri ve veri paylaşmak istemiyorlarsa hizmeti kullanmaktan kaçınmaları gerektiğini söyledi; ancak bunun pratikte her zaman mümkün olmadığını da kabul etti.
Hukuki ve etik boşluklar
Alemdar, mevcut hukuki altyapının yapay zekanın hızlı gelişimini yakalayamadığını belirterek, teknolojinin hukuka uygun olması durumunun otomatik olarak etik olduğu anlamına gelmediğini vurguladı. Hem etik hem hukuki boyutta tartışmaların gerekliliğine dikkat çekti ve maddi yaptırımların eksikliğinin şirketleri istenmeyen uygulamalardan alıkoymada yetersiz kaldığını ifade etti.
Eğitim, iş yaşamı ve adaptasyon gerekliliği
Alemdar ayrıca yapay zekanın eğitimde ve işte kalıcı bir yer alacağını, bu nedenle eğitim sistemlerinin ve iş yapış biçimlerinin yeniden değerlendirilmesi gerektiğini söyledi. Yapay zekayı kullananların kullanmayanlara kıyasla avantaj elde edeceğini, bu yüzden toplumsal ve kurumsal hazırlığın önemini vurguladı.
Psikolojik etkiler ve yapay zeka ile dertleşme
Uz. Dr. Huriye Aslan, yapay zekaya duygusal destek amacıyla başvurmanın bazı riskler barındırdığını belirtti. Tanı ve tedavi süreci geciken kişilerin yapay zekanın aşırı destekleyici dilinden olumsuz etkilendiğini, bunun patolojiyi artırabileceğini söyledi. Aslan son dönemlerde yapay zeka ile dertleşme sonrası gündeme gelen intihar ve başkasına zarar verme örneklerine dikkat çekti ve bunun ciddi bir uyarı olduğunu ifade etti.
Veri gizliliği, tıbbi etik ve ticari yaklaşımlar
Aslan, yapay zeka uygulamalarının çoğunlukla tıbbi etik yerine ticari hedeflerle geliştirildiğini söyledi. Veri gizliliğinin net olmaması nedeniyle kullanıcıların söylemlerinin başka yerlerde kullanılabileceği riskine işaret etti ve yapay zekanın ruhsal destekte tek başına profesyonel bir alternatif olmayacağını vurguladı. Aslan'ın değerlendirmesine göre yapay zeka, psikiyatri alanında ancak meslek sahipleriyle entegre ve gözetimli uygulamalar şeklinde kullanılırsa yararlı olabilir.
Sonuç ve öneriler
Her iki uzmanın ortak mesajı, yapay zekanın sunduğu faydaların kabul edilerek, etik, hukuki ve teknik önlemler eşliğinde ilerlenmesi gerektiği yönünde. Kullanıcılara düşen görev ise hizmetleri kullanırken veri paylaşımına karşı daha bilinçli davranmak ve ruhsal sorunlarda öncelikle sağlık profesyonellerine başvurmak olarak özetlenebilir.
HANDE ALEMDAR
