Bist 100
9.679,8 1%
DOLAR
32,43 0,21%
EURO
34,54 0,28%
ALTIN
2.436,93 0,43%

Yapay zekâ modellerindeki önyargı ‘BlackGPT’ ile tespit edilecek!

'BlackGPT' olarak bilinen üretken yapay zekâ şirketi Latimer, yeni bir önyargı tespit aracı ve uygulama programlama arayüzü (API) başlatacak.

Yayın Tarihi: 24.02.2024 17:05
Güncelleme Tarihi: 24.02.2024 17:05

Yapay zekâ modellerindeki önyargı ‘BlackGPT’ ile tespit edilecek!

Siyahi kültürü ve tarihine odaklanan bir veri külliyatı üzerinde eğitilmiş büyük bir dil modeli aracı olan Latimer, önümüzdeki haftalarda yeni bir yapay zekâ modeli yayınlayacak.

Latimer CEO'su ve kurucu ortağı John Pasmore, mucit Lewis Howard Latimer'in adını taşıyan ve sevgiyle "The BlackGPT" olarak bilinen yapay zekâ girişiminin, ChatGPT gibi popüler yapay zekâ araçlarında bulunan önyargı, kültürel yetkinlik eksikliği ve silme sorunlarına bir yanıt olduğunu söylüyor. Araç, bir uygulama programlama arayüzü (API) aracılığıyla ChatGPT'nin kod tabanına erişerek çalışıyor ve daha sonra kullanıcıların sorgularına insan benzeri metinler oluşturmak için geri alma-artırılmış üretim (RAG) uyguluyor veya özel bir veri alt kümesinden, bu durumda Siyah tarihine özgü verilerden bilgi çekiyor.

yapay zeka

KORKULUKLAR, ÖN YARGILAR VE BİRİLERİNİ RENCİDE ETMEK BLACKGPT’YE FIRSAT YARATTI

Latimer'in yeni API'ı kullanıcılara ve şirketlere veri kümelerine erişim sağlayacak. Ayrıca önyargıları da tespit edebilecek. Pasmore, şirketin özellikle önyargı tespitine odaklanan yaklaşık beş ürün daha piyasaya sürmeyi planladığını söyledi.

Pasmore, yapay zekâdaki hızlı hareket etme, her şeyi kırma enerjisinin Latimer için bir fırsat yarattığını aktardı.

CEO, "Odak noktası hız ve bazılarının muhakeme yeteneği olarak gördüğü şeyi geliştirmekti; korkuluklar, ön yargılar, birilerini rencide etmek ya da belirli insanlar hakkında doğru şeyler söylemekten daha çok. Bu bizim için bir fırsat yarattı” dedi.

Şirketin içerik edinme stratejisi tarihsel olarak siyahi kolejleri ve üniversiteler, HBCU ortaklıklara ve siyah medya ve içerik üreticileriyle lisans anlaşmalarına odaklanıyor. Latimer'in veri tabanının baş içerik sorumlusu, okulun ilk Afro-Amerikan çalışmaları doktora programını oluşturan Temple Üniversitesi'nden Molefi Kete Asante.

Pasmore, "Siyahi ve kahverengi yayıncılar hem bu içeriği üretmiş olmaktan finansal olarak faydalanmak istiyorlar hem de içeriğin Latimer bile olsa sadece tek bir yerden doğru bilgi alabileceğiniz şekilde silo haline gelmesini istemiyorlar" diye konuştu.

Latimer ilk olarak ortaklık kurarak, lisans vererek ve yükseköğretime satış yaparak işe başladı. Pasmore, erken ticari kullanımların giderek artan bir potansiyele sahip olduğunu söyledi.