"Kurumsal verileri yapay zeka sistemleriyle paylaşmayın" uyarısı
İnternet Tabanlı Teknoloji Mimarı Kaan Demircan, yapay zeka platformlarında veri gizliliğinin hayati önem taşıdığını belirterek, kurumsal verilerin bu sistemlerle paylaşılmasının geri dönülemez güvenlik açıklarına yol açabileceği konusunda uyarılarda bulundu.
Küresel çapta dijital altyapı tasarımları yapan Demircan, Kuzey Kafkas Karaçay-Malkar Derneği’nde düzenlenen sunumunda, yapay zekâ teknolojilerinin sunduğu imkanların yanısıra barındırdığı etik risklere ve "halüsinasyon" olarak adlandırılan hatalı bilgi üretme riskine dikkat çekti. Teknolojinin hızlı ilerlediği bu dönemde veri güvenliğinin tercih değil zorunluluk olduğunu vurguladı.
"Bilgilerinizi paylaşmamalısınız"
Yapay zekânın etik ve sorumlu kullanımına değinen Demircan, özellikle kurumsal bilgilerin gizliliği hakkında katılımcıları uyardı. Bir firmada çalışırken şirketle alakalı bilgilerin sisteme girilmemesi gerektiğini belirterek, "Yapay zekayı etik bir şekilde kullanmak ve kullandırmak çok önemli. Etik ve sorumlu kullanılması gerekli. Bilgilerinizi paylaşmamalısınız" dedi.
"Kendi yapay zekamızı kullanıyoruz"
Kendi çalışma ortamından örnekler veren Demircan, kurum içi özel modellerin sağladığı avantajları şöyle anlattı:
"Kendi çalıştığım şirkette kendi yapay zekamızı kullanıyoruz. Paylaştığımız bilgiler hiçbir yere gitmiyor, birileriyle paylaşılmıyor. Ama şirketin her türlü bilgisine yapay zeka ile erişilebiliyor. Finansal bilgilerden kime ne sattığımız, hangi projeler var. Oraya bir soru sorduğumuz zaman, yapay zeka bütün bilgileri bildiği için çok verimli cevaplar alıyorum ve çok işime yarıyor."
"Başarının temeli sürekli bilgiye aç olmak"
Teknoloji alanında başarıyı merak ve sürekli öğrenmeye bağlayan Demircan, "Sürekli deneyeceksiniz, yeni araçlar çıkıyor. Sürekli öğrenmeniz gerekiyor, öğrenmeye aç olmak lazım. Başarılı olmanın temeli bu; sürekli bilgiye aç olmak." ifadelerini kullandı ve yeni projeler çıktıkça merak edilmesi ve gerektiğinde uzmanlara danışılmasının önemine işaret etti.
"Yapay zeka halüsinasyon görebilir"
Yapay zekânın kusursuz olmadığını ve zaman zaman olmayan bilgileri doğruymuş gibi sunabildiğini belirten Demircan, bunun yanlış eğitilmiş veri setleri ya da model geliştirme süreçlerinden kaynaklanabileceğini söyledi. Demircan, "Bu yüzden buradan çıkan her şeyi alıp direkt kullanmak hiçbir zaman doğru değil." uyarısında bulundu ve yazılımcılara üretilen kodu kontrol edip anlamalarının gerekliliğini vurguladı.
Algoritmik ön yargı ve yanlış bilgi riski
Demircan, yapay zekânın veri kaynaklarından etkilenebileceğini belirterek bazı araştırmalarda insan kaynakları başvurularında belirli ırklara karşı önyargılı davranıldığına dair bulgular olduğunu aktardı. "Her şey kullanılmamalı, çünkü yapay zeka farklı yalan haber kaynaklarından veya yanlış bilgilerden besleniyor olabilir."
Büyük ilgi gören etkinlik, sunumun ardından gerçekleştirilen soru-cevap bölümü ve misafirlere sunulan ikramlarla sona erdi.
KAAN DEMİRCAN
