Yapay zeka sistemleri önyargılarla ve ırk ayrımcılığıyla dolu. 3 üniversitenin ortak araştırmasından çıkan sonuç bu.

Bir yapay zeka milyonlarca belge okuyarak ve bu kaynaklardan sağlamış olduğu bilgilere dayanarak oluşturuluyor. Oysa bu veriler çoğunlukla Beyaz ırkın üstünlüğüne dayalı Amerikan kültürünün ürünlerinden sağlanıyor. Bu da yapay zekanın ırkçı yaklaşımlar göstermesine neden oluyor.

Araştırmayı ABD’deki Washington ve Carnegie Mellon ile Çin’deki Şian Şiatong üniversiteleri gerçekleştirdi.

Araştırmanın sonuçlarını yansıtan raporda bir çok örnek verildi:

ABD’deki mahkemelerde kullanılan bir yapay zeka programı, bir suçlunun yeniden suç işlemesi olasılığının Siyah Amerikalılar’da Beyazlar’a göre iki kat daha fazla olduğunu kaydetti.

Google’un “Vision AI” yapay zeka sistemi koyu renk cilde sahip olanların ellerindeki cihazın silah olması ihtimalini çok yüksek diye tahmin etti. Peki aynı cihaz açık renk tenlilerin elindeyse? Cevap: Çok büyük olasılıkla bir elektronik alet!

“Buzzfeed” internet sitesinde çalışan bir gazeteci, Barbie bebeklerinin 194 ülkedeki tipik özelliklerini belirlemek için yapay zekadan yararlandığını anlatan bir haber hazırladı. Vardığı sonuçlardan bir kaçı şöyle:

-Alman Barbie’si SS üniforması giyiyor.

-Güney Sudan Barbie’sinin elinde silah var.

-Lübnan Barbie’si bombalı saldırıda yıkılmış bir binanın önünde duruyor.