Попри всі зусилля розробників великих мовних моделей (LLM) для обмеження расистських, сексистських та інших стереотипів, нове дослідження Стенфордського університету показало, що мовні моделі все ще відтворюють екстремальні расистські упередження, які походять з епохи до громадянських прав. Розробники роблять значні кроки, щоб покращити свої моделі, але ці зміни можуть бути поверхневими — замість реального вдосконалення корпорації лише стали краще приховувати проблеми.

Пратюша Ріа Каллурі, аспірантка Стенфорду, зазначає, що ці моделі стали не менш расистськими, а просто навчилися краще маскувати свої упередження. Це особливо помітно у ставленні до носіїв афроамериканської англійської (ААЕ), які зазнають дискримінації в різних сферах життя, включно з працевлаштуванням, освітою та кримінальною відповідальністю.

У статті для Nature Каллурі та її колеги Валентин Хофманн, Ден Джурафскі та Шарес Кінг демонструють, що LLM все ще поширюють стереотипи про носіїв ААЕ, наприклад, називаючи їх «ледачими», «дурними» чи «брудними». Ці упередження не лише негативно впливають на сприйняття носіїв ААЕ, але й мають реальні наслідки: моделі з більшою ймовірністю надають менш престижні посади, схильні до жорсткіших кримінальних вироків і навіть до смертної кари для носіїв ААЕ порівняно з носіями стандартної американської англійської (SAE).

Дослідники використовували метод експериментальної соціолінгвістики для аналізу того, як LLM реагують на тексти, написані AAE та SAE. Результати показали, що моделі значно частіше асоціюють носіїв AAE з негативними стереотипами з минулого, які були зафіксовані у Прінстонській трилогії — серії досліджень 1933, 1951 та 1969 років. Це вказує на те, що прихований расизм ще глибоко вкорінений у сучасних моделях ШІ.

Хоча моделі стали менш відвертими у своїх расистських висловлюваннях, приховані стереотипи все ще залишаються і навіть стають більш помітними в таємних експериментах. Це створює серйозні ризики, коли LLM використовуються для прийняття рішень, що змінюють життя, таких як найм на роботу чи винесення кримінальних вироків.

Каллурі закликає компанії та політиків переглянути використання LLM у важливих сферах та зробити більше для боротьби з расовими упередженнями. Ці моделі не просто технічні інструменти — вони мають реальний вплив на життя людей, і ігнорування цих проблем може призвести до серйозних наслідків для суспільства.

Джерело: https://hai.stanford.edu/news/covert-racism-ai-how-language-models-are-reinforcing-outdated-stereotypes