Hazırlayan: Nazlı Selin Özkan

Google, üretken yapay zekâ modeli Gemini’ın tarihî figürleri gerçeğe aykırı bir şekilde tasvir etmesini takiben görsel üreten özelliğini geçici bir süre erişime kapadı.

Gemini, ‘Nazi döneminde Alman askerleri’ komutuna cevaben Uzak Doğulu bir kadın ve siyahi bir erkek subay tasvir etmiş, ABD’nin kurucularını ise Amerika yerlisi ya da Afrikalı Amerikalı olarak görselleştirmişti. Gemini, sağ eğilimli medya figürleri tarafından beyazları tarihten silmekle suçlanmıştı.

Yapay zekâ modellerinin cinsiyetçi ve ırkçı önyargılara sahip olduğu uzun yıllardır tartışılan bir problem. 2015’te Google’ın bir yapay zekâ modeli siyahi bir erkeği ‘goril’ olarak tanımlamış, geçen sene Washington Post’un yaptığı bir araştırma yapay zekâ modellerinin ‘üretken bir insan’ metnine neredeyse tamamen beyaz erkeklerle ve ‘sosyal hizmetlerden yararlanan insan’ metnine siyahi figürlerle cevap verdiğini ortaya çıkarmıştı.

Gemini’ın, yapay zekânın önyargı problemlerine karşılık olarak görsellerde çeşitliliği artırmak amacıyla bütün komutlara otomatik olarak ‘kapsayıcı’ ve ‘çeşitli’ gibi kelimeler eklediği, bu özelliğin de tarihî nüansları göz önünde bulundurmakta zorlandığı ortaya çıktı. Google, yaptığı açıklamada kullanıcılarının global olduğunu ve bu nedenle bunun iyi bir özellik olduğunu, ama bu esnada çuvalladığını belirtti. Şirket, Gemini’ı en kısa zamanda güncelleyecek.