OpenAI, temmuz ayında "süper zeki" yapay zekâ sistemlerini, yani insanlarınkini çok aşan zekâya sahip teorik sistemleri yönlendirmek, düzenlemek ve yönetmek için yollar geliştirmek üzere Superalignment ekibini kurmuştu.
Altman, OpenAI ile Manhattan Projesi arasında karşılaştırmalar yapmaya davet ederek, kimyasal ve nükleer tehditler de dahil olmak üzere felaket risklerine karşı korunmak için yapay zekâ modellerini araştırmak üzere bir ekip kuracak kadar ileri gitmiş olsa da, bazı uzmanlar, girişimin teknolojisinin yakın zamanda veya hiçbir zaman dünyayı sona erdirecek, insan zekâsını aşan yetenekler kazanacağını gösteren çok az kanıt olduğunu söylüyor.
Bu uzmanlara göre, yakın zamanda insanüstü zekâya ulaşılacağı iddiaları, yalnızca dikkatleri kasıtlı olarak algoritmik önyargı ve yapay zekânın zarar verme eğilimi gibi günümüzün acil toksisiteye düzenleme sorunlarından uzaklaştırmaya ve dikkati dağıtmaya hizmet ediyor.
Öte yandan, OpenAI’ın Kurucu Ortağı İlya Sutskever, yapay zekânın bir gün varoluşsal bir tehdit oluşturabileceğine içtenlikle inanıyor. Sutskever'in, yapay zekânın insanlığa zarar vermesini önleme konusundaki kararlılığını göstermek için şirket dışında ahşap bir büst yaptırıp yakacak kadar ileri gittiği ve Superalignment ekibinin araştırması için OpenAI'nin anlamlı miktarda işlemini emrettiği bildiriliyor.
ZAMANIN ÇÖZÜLMEMİŞ EN ÖNEMLİ SORUNU
Superalignment ekibinden Leopold Aschenbrenner, "Son zamanlarda yapay zekâdaki ilerleme olağanüstü hızlı oldu ve sizi temin ederim ki yavaşlamıyor. Bence çok yakında insan seviyesindeki sistemlere ulaşacağız. Fakat orada durmayacak. Peki insanüstü yapay zekâ sistemlerini nasıl hizalayacağız ve onları nasıl güvenli hale getireceğiz? Bu gerçekten tüm insanlık için bir sorun ve belki de zamanımızın çözülmemiş en önemli teknik sorunu” dedi.
Superalignment ekibi, süper zeki bir yapay zekâ sistemini anlamlandıramayan insanlara benzer şekilde, zayıf modelin de güçlü modelin tüm karmaşıklıklarını ve nüanslarını "anlayamayacağını", bu durumun da süper hizalama hipotezlerini kanıtlamak için kurulumu faydalı hale getirdiğini söylüyor.
Bu kapsamda OpenAI, süper zeki hizalama konusundaki teknik araştırmaları desteklemek için 10 milyon dolarlık bir hibe programı başlatıyor ve bu programın dilimleri akademik laboratuvarlara, kâr amacı gütmeyen kuruluşlara, bireysel araştırmacılara ve lisansüstü öğrencilere ayrılacak. OpenAI, aynı zamanda, 2025'in başlarında süper hizalama üzerine akademik bir konferansa ev sahipliği yapmayı planlıyor ve burada süper hizalama ödülü finalistlerinin çalışmalarını paylaşacak ve tanıtacak.
