Taylor Swift'in sahte görüntüleri ağırlıklı olarak daha önce Twitter olarak bilinen sosyal medya sitesi X'te dolaşıyordu. Şarkıcıyı müstehcen ve müstehcen pozisyonlarda gösteren fotoğraflar, sosyal platformlardan kaldırılmadan önce on milyonlarca kez görüntülendi. Ancak internetteki hiçbir şey sonsuza kadar ortadan kaybolmaz ve şüphesiz bunlar daha az düzenlemeye tabi diğer kanallarda da paylaşılmaya devam edecektir.
Çoğu büyük sosyal medya platformu gibi, X'in politikaları da "insanları aldatabilecek, kafalarını karıştırabilecek ve zarara yol açabilecek sentetik, manipüle edilmiş veya bağlam dışı medyanın" paylaşılmasını yasaklıyor .
Olay, ABD'nin başkanlık seçim yılına girdiği bir dönemde gerçekleşti ve yapay zeka tarafından oluşturulan yanıltıcı görsel ve videoların dezenformasyon çabalarını yönlendirmek ve sonuçta oylamayı engellemek için nasıl kullanılabileceğine dair endişeler artıyor .
Dijital araştırma ajansı Memetica'yı yöneten Ben Decker, CNN'e şöyle konuştu: "Bu, kamusal meydanı korumaya yetecek kadar korkuluk olmadan yapay zekanın birçok kötü nedenden ötürü nasıl serbest bırakıldığının en iyi örneği."
Decker, her türden kamuya mal olmuş kişiyi hedef alan potansiyel olarak zararlı içerik oluşturmak için üretken yapay zeka araçlarının kullanılmasının hızla arttığını ve sosyal medyada her zamankinden daha hızlı yayıldığını söyledi.
"Sosyal medya şirketlerinin içeriği mutlaka izlemek için etkili planları yok" dedi.
Örneğin X, içerik denetleme ekibini büyük ölçüde boşaltmış durumda ve otomatik sistemlere ve kullanıcı raporlamasına güveniyor. (AB'de X şu anda içerik denetleme uygulamaları nedeniyle araştırılıyor).
Durumla ilgili doğrudan bilgisi olan kişilerin CNN'e verdiği bilgiye göre Meta da dezenformasyonla mücadele eden ve platformlarında trol ve taciz kampanyalarını koordine eden ekiplerinde kesintiler yaptı ve ABD ve dünya genelinde 2024'te yapılacak önemli seçimler öncesinde endişeleri artırdı.
Taylor Swift ile ilgili görsellerin nereden geldiği belli değil. Her ne kadar Instagram ve Reddit gibi sitelerde bazı görseller bulunsa da özellikle X üzerinde yaygın bir sorun haline geldi.
Olay aynı zamanda ChatGPT ve Dall-E gibi yapay zeka oluşturma araçlarının yükselişiyle de örtüşüyor. Ancak Decker, açık kaynak platformlarında denetlenmeyen, iş için güvenli olmayan yapay zeka modellerinden oluşan çok daha geniş bir dünyanın da bulunduğunu söyledi.
“Bu, içerik denetimi ve platform yönetiminin daha büyük bir parçalanmanın göstergesidir, çünkü eğer tüm paydaşlar (yapay zeka şirketleri, sosyal medya şirketleri, düzenleyiciler ve sivil toplum) aynı şeylerden ve nasıl ele alınacağı konusunda aynı sayfada konuşmuyorsa bu sorunlar, bu tür içerikler çoğalmaya devam edecek" diye ekledi.
Ancak Decker, Swift'in hedef alınmasının, yapay zeka tarafından oluşturulan görüntülerle ilgili artan sorunlara daha fazla dikkat çekebileceğini söyledi. Swift'in sadık "Swiftie'lerden" oluşan devasa grubu bu hafta sosyal medyada öfkelerini dile getirerek konuyu ön plana çıkardı. 2022'de, Eras Tour konseri öncesinde Ticketmaster'da yaşanan erime internette öfkeye yol açtı ve bu durum, tüketici dostu olmayan biletleme politikalarına karşı çeşitli yasama çabalarına yol açtı.
Decker, belki de aynı şeyin yapay zeka tarafından oluşturulan görsellere zarar vermek için de geçerli olacağını öne sürdü.
"Taylor Swift gibi bu kadar büyük (hedefli) figürlere sahip olduğunuzda, yasa koyucuları ve teknoloji şirketlerini harekete geçiren şey belki de budur çünkü Amerika'nın sevgilisinin onlara karşı halka açık bir kampanyaya katılmasını göze alamazlar" dedi. "Kendisini daha iyi hissetmesini sağlamaları gerektiğini düşünüyorum çünkü muhtemelen internetteki neredeyse herkesten daha fazla nüfuza sahip."
Bu tür teknolojiler , bir süredir " intikam pornosu " olarak bilinen, yani birisinin açık görsellerinin rızası olmadan internette yayınlanmasını oluşturmak için kullanılıyordu ancak şimdilerde Swift'in rahatsız edici fotoğrafları nedeniyle yeniden ilgi görmeye başladı.
Şu anda dokuz ABD eyaletinde , kişinin kendi benzerini taklit etmek için oluşturulan sentetik görüntüler olan rıza dışı deepfake fotoğrafların oluşturulmasına veya paylaşılmasına karşı yasalar bulunmaktadır.
