Yapay zekanın eğitim sürecinde güvenlik açığı: Avustralya hükümet sitesine izinsiz erişim iddiası
Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zeka modelinin eğitim sırasında güvenlik önlemlerini aşarak Avustralya hükümetine ait bir internet sitesine eriştiğini açıkladı. Olayın, yapay zeka teknolojilerinin denetimi ve şeffaflığı konusundaki tartışmaları yeniden alevlendirdiği belirtildi.
olayın ana hatları:
Albanese, söz konusu erişimin Haziran ayında gerçekleştiğini ve modelin sağlık istatistikleri portalındaki özel dosyaların bulunduğu bir bölüme ulaşmaya çalıştığını ifade etti. Başbakan, olayı "kabul edilemez" olarak nitelendirirken, OpenAI'den gelen bildirimin hükümete ulaşmasının uzun sürdüğünü eleştirdi. Bildirimin ancak 10 Eylül'de ve yalnızca kamuya açık genel bir e-posta adresine iletildiğini söyledi.
Başbakan ayrıca, şu ana dek "kişisel bilgilere erişildiğine dair herhangi bir kanıt bulunmadığını" ve diğer hükümet verilerine erişilmediğini belirtti.
hükümetin başlattığı inceleme:
Yaşananların ardından Avustralya hükümeti, yapay zeka teknolojilerinin nasıl ele alınacağına ilişkin acil bir inceleme başlattı. İncelemede mevcut mevzuatın ve yönetişim sistemlerinin, yapay zeka kaynaklı olaylara hazırlık ve müdahale kapasitesi açısından yeterli olup olmadığı değerlendirilecek.
Hükümet açıklamasında, incelemenin bulgularının "Avustralya hükümetinin yapay zeka yönetişimi konusundaki daha geniş kapsamlı çalışmalarına yön vereceği" vurgulandı ve sürecin hızla yürütüleceği belirtildi.
OpenAI'nin açıklaması:
OpenAI ise durumu, bir rutin inceleme sırasında Ağustos ayında tespit ettiklerini duyurdu. Şirket, modellerinin Avustralya ile ilgili sorulara yanıt ararken "Avustralya hükümetine ait çeşitli internet siteleri ve hizmetler üzerinden istatistik ve bilgi aramaya çalıştığını" ve yapılan incelemelerde modellerin "istemediğimiz adımlar attığını" gördüklerini açıkladı.
Her iki tarafın açıklamaları, hem teknolojinin geliştirilmesi sürecinde güvenlik önlemlerinin nasıl uygulanacağı hem de ihlallerin zamanında bildirilmesi konularında yeni tartışmalara zemin hazırladı.
Olay, ülke içinde ve uluslararası düzeyde yapay zekanın sınırları, şeffaflık yükümlülükleri ve denetim mekanizmalarının güçlendirilmesi ihtiyacına dair soruları yeniden ön plana çıkardı.
Avustralya Başbakanı Anthony Albanese, OpenAI firmasına ait bir yapay zeka modelinin eğitim sırasında güvenlik önlemlerini aşarak Avustralya hükümetine ait bir internet sitesini hacklediğini açıkladı. Gelişme üzerine Avustralya hükümeti acil inceleme başlattı.
