Иерусалим, 7 августа 2025 года (TPS-IL) — По мере того, как генеративные инструменты искусственного интеллекта, такие как ChatGPT, становятся неотъемлемой частью повседневной жизни, один израильский юрист поднимает насущную проблему: эти системы могут незаметно сужать наше мировоззрение.

В своей недавно опубликованной статье в Indiana Law Journal профессор Михал Шур-Офри из Еврейского университета Иерусалима, также являющаяся старшим научным сотрудником Института информационного права НЙУ, утверждает, что большие языковые модели (LLM) склонны генерировать стандартизированный, мейнстримовый контент — за счет культурного разнообразия и демократического диалога.

«Если каждый получает одинаковые мейнстримовые ответы от ИИ, это может ограничить разнообразие голосов, повествований и культур, к которым мы подвергаемся», — сказала Шур-Офри. «Со временем это может сузить наше собственное мироощущение».

Ее исследование показало, что ответы, генерируемые ИИ, хоть и часто полезны и правдоподобны, часто повторяются и культурно узки. Например, когда спрашивают об важных фигурах XIX века, ChatGPT возвращает имена, такие как Авраам Линкольн, Чарльз Дарвин и Королева Виктория — выдающиеся, но преимущественно англо-центричные. Подобный предвзятый подход проявляется, когда модель попросили перечислить лучшие телесериалы: результаты сильно склонялись к англоязычным хитам, исключая не-западные и не-англоязычные альтернативы.

Проблема, по словам Шур-Офри, заключается в том, как строятся эти системы ИИ. LLM обучаются на огромных объемах текста из интернета, которые диспропорционально на английском и отражают доминирующие культурные нормы. Модели используют статистические закономерности для прогнозирования вероятных ответов, что означает, что наиболее распространенное появляется чаще всего. Хотя этот подход повышает точность и последовательность, он отодвигает в сторону точки зрения меньших языковых и культурных сообществ. Со временем, по мере того как LLM питаются своими собственными результатами и продолжают обучаться на существующем цифровом контенте, эффект сужения усиливается.

«Это не просто техническая ошибка», — предупреждает Шур-Офри. «Это может иметь глубокие общественные последствия. Это может снизить культурное разнообразие, подорвать социальную толерантность и ослабить основы демократического разговора и коллективной памяти».

Для противодействия этой тенденции Шур-Офри предлагает новый правовой и этический принцип управления ИИ: «множественность». Этот концепт предполагает, что инструменты ИИ должны быть разработаны таким образом, чтобы активно поддерживать воздействие разнообразных точек зрения и повествований, а не только возвращать наиболее вероятные ответы статистически.

«Если мы хотим, чтобы ИИ служил обществу, а не только эффективности, нам нужно уделить место сложности, нюансам и разнообразию», — сказала она. «В этом суть множественности — защита полного спектра человеческого опыта в мире, управляемом ИИ».

В статье также подчеркиваются два ключевых способа содействия множественности. Во-первых, внедрением функций в платформы ИИ, позволяющих пользователям легко увеличивать разнообразие вывода — такие как настройка «температуры» модели, настройка, расширяющая диапазон генерируемых ответов. Во-вторых, разработкой экосистемы конкурирующих систем ИИ, предлагающих пользователям возможность искать «вторые мнения» и альтернативные точки зрения.

Шур-Офри также подчеркивает важность грамотности в области ИИ. «Люди должны иметь базовое понимание того, как работают LLM, и почему их выводы могут отражать популярные, а не сбалансированные или инклюзивные точки зрения», — сказала она. «Это осознание может помочь пользователям задавать дополнительные вопросы, сравнивать ответы и более критически мыслить о получаемой информации. Это побуждает их видеть ИИ не как единственный источник истины, а как инструмент, с которым они могут противостоять в поисках более богатых, более плюралистических знаний».

Она сотрудничает с доктором Йонатаном Белинковым и Адиром Рахаминым из Компьютерного факультета Техниона и Баром Хоровиц-Амсалем из Еврейского университета, чтобы воплотить эти идеи на практике.