Согласно исследованию, начатому 7 марта культурной организацией ООН ЮНЕСКО, самые популярные в мире инструменты искусственного интеллекта (ИИ) основаны на программах OpenAI и Meta (признана в России экстремистской и запрещена), которые показывают предубеждения в отношении женщин.

Крупнейшие игроки в области искусственного интеллекта с оборотом в несколько миллиардов долларов тренируют свои алгоритмы на огромных объемах данных, в основном полученных из Интернета, что позволяет их инструментам писать в стиле Оскара Уайльда или создавать изображения, вдохновленные Сальвадором Дали.

Но их продукцию часто критиковали за отражение расовых и сексистских стереотипов, а также за использование материалов, защищенных авторским правом, без разрешения.

Эксперты ЮНЕСКО протестировали алгоритм Llama 2 от Meta и GPT-2 и GPT-3.5 от OpenAI, программу, которая поддерживает бесплатную версию популярного чат-бота ChatGPT.

Исследование показало, что каждый алгоритм, известный в отрасли как «большие языковые модели», демонстрирует «недвусмысленные доказательства предубеждений в отношении женщин».

Программы генерировали тексты, в которых женские имена ассоциировались с такими словами, как «дом», «семья» или «дети», а мужские имена были связаны с «бизнесом», «зарплатой» или «карьерой».

В то время как мужчины изображались на высокостатусных должностях, таких как учителя, юристы и врачи, женщины часто были проститутками, поварами или домашней прислугой.

GPT-3.5 оказался менее предвзятым, чем две другие модели.

Однако авторы похвалили Llama 2 и GPT-2 за открытый исходный код, позволяющий тщательно изучать эти проблемы, в отличие от GPT-3.5, который является закрытой моделью.

Компании, занимающиеся искусственным интеллектом, «действительно не обслуживают всех своих пользователей», сказала Леона Вердадеро, специалист ЮНЕСКО по цифровой политике.

Одри Азуле, генеральный директор ЮНЕСКО, заявила, что общественность все чаще использует инструменты искусственного интеллекта в своей повседневной жизни.

«Эти новые приложения искусственного интеллекта способны тонко формировать восприятие миллионов людей, поэтому даже небольшие гендерные предубеждения в их содержании могут значительно усилить неравенство в реальном мире», — сказала она.

ЮНЕСКО, опубликовав отчет по случаю Международного женского дня, рекомендовала компаниям, занимающимся ИИ, нанимать больше женщин, а также призвала правительства обеспечить этику ИИ посредством регулирования.