Ученые из Израиля провели интересное и масштабное исследование, чтобы узнать, как современные языковые модели — включая такие ИИ как ChatGPT, Gemini и DeepSeek, а также GPT-4 — воспринимают людей с разным этническим и социальным бэкграундом. Целью эксперимента стало выявление возможных скрытых стереотипов, а также сравнение взглядов ИИ и реальных людей на типичные образы в обществе.
Этапы исследования: от генерации персонажей до психологических характеристик
В начале эксперимента исследователи поручили ChatGPT сгенерировать коллекцию из 252 вымышленных персонажей. Для создания разнообразия некоторые из героев получили традиционно еврейские имена, другие — нейтральные. Каждый персонаж был наделен краткой биографией, описанной всего в ста словах. Чтобы убедиться в объективности и устойчивости результатов, те же задания впоследствии выполняли Gemini и DeepSeek, которые также зарекомендовали себя среди популярных языковых моделей.
Следующий этап предполагал дополнительное усложнение: из всех текстовых биографий были исключены имена и любые явные указания на происхождение или религиозную принадлежность героев. Языковым моделям, тем самым, предлагалось оценить анонимные образы по различным психологическим шкалам и описать личностные черты каждого участника. Такой двойной слепой подход позволил минимизировать влияние предубеждений и проверить, насколько последовательны результаты.
Выводы, которые невозможно проигнорировать
Анализ работы нейросетей показал удивительную устойчивость определенных паттернов. Персонажи, изначально отмеченные как евреи, чаще всего описывались системами как обладатели высокого интеллекта, значительного статуса и компетентности. Однако вместе с этим искусственный интеллект склонялся к изображению их как менее дружелюбных, отстраненных и не столь легко располагающих к себе окружающих. Более того, им нередко приписывали привилегированность и даже относили к классу "угнетателей", а не "угнетенных".
Для объективности ученые привлекли к оценке те же биографии 378 добровольцев из США, представляющих разные возрастные и гендерные группы. Результаты оказались согласованными: суждения живых людей совпадали с выводами искусственного интеллекта, что лишь подтверждало наличие определенных, устойчивых в массовом сознании, стереотипов.
Киногерои и архетипы: ChatGPT, GPT-4 и DeepSeek называют своих фаворитов
Чтобы проверить, как языковые модели соотносят выявленные черты с персонажами известных произведений, исследователи предложили системам (в том числе GPT-4 и DeepSeek) назвать киногероев и литературных персонажей, обладающих тем же психологическим портретом. В результате компьютерные "мнения" оказались удивительно схожими. Нейросети выделили среди архетипических фигур доктора Хауса из одноименного медицинского сериала, Тайвина Ланнистера из "Игры престолов" и Уолтера Уайта из "Во все тяжкие".
Герои, попавшие в этот список, заметно отличались общей чертой — проницательностью, стратегическим мышлением, а также склонностью к нарушению правил ради достижения целей. Их объединяет архетип "искусного манипулятора": эмоциональная закрытость, расчетливость, готовность к морально неоднозначным поступкам и умение повлиять на ход событий вокруг себя.
Позитивный сигнал для внедрения идей инклюзивности
Авторы исследования подчеркивают, что языковые модели, использующие обширные массивы текстов из интернета и других открытых источников, порой невольно наследуют стереотипы, делающие их суды менее объективными. Однако возможность выявить и проанализировать эти паттерны с помощью новых ИИ-инструментов — большой шаг вперед к созданию честного и инклюзивного искусственного интеллекта. Такая прозрачность открывает пути для доработки моделей, более тонкой настройки алгоритмов и устранения возможных искажений восприятия.
Какая роль у человека и куда двигаться дальше?
Исследование подчеркивает: несмотря на гигантский шаг технологий, именно человеку принадлежит решающая роль в формировании справедливого цифрового будущего. Только совместная работа инженеров, психологов и разработчиков поможет сделать ИИ отзывчивее ко всем проявлениям культурного и этнического разнообразия. С каждым новым открытием ChatGPT, Gemini, DeepSeek и другие языковые модели становятся инструментами не только для бизнеса и развлечений, но и для продвинутой социокультурной диагностики.
Современные ИИ продолжают развиваться, и позитивный подход к их развитию позволяет надеяться, что ближайшее будущее будет насыщено новыми достижениями — от дружелюбных сервисов поддержки до уникальных образовательных платформ. Персонажи вроде доктора Хауса, Тайвина Ланнистера и Уолтера Уайта не только остаются в истории кинематографа, но и вовлекаются в масштабные эксперименты, которые меняют представление о возможностях искусственного интеллекта — на благо общества и будущих поколений.
