Разговор с нейросетью на родном языке расходует заметно больше энергии, чем на английском. Инженеры Мичиганского университета подсчитали, что генеративный ИИ тратит на неанглийские тексты в 1,4–180 раз больше энергии, причем чем больше энергии требует язык, тем ниже и точность ответов. Работа представлена на конференции EMNLP Ассоциации компьютерной лингвистики.
Разрыв сильнее всего в языках с нелатинской письменностью и малым количеством цифровых материалов для обучения. Так, хинди и бенгальский, на каждом из которых говорят сотни миллионов человек, требуют 7,9 и 15,3 раза больше энергии, чем аналогичный запрос по-английски, тогда как западноевропейские языки укладываются примерно в удвоенный расход. Сопоставив замеры с демографическими данными, исследователи оценили, что около 5,2 миллиарда человек вынуждены тратить на родной язык более чем вдвое больше энергии.
Выводы основаны на испытаниях трех открытых моделей — Qwen 3 от Alibaba, Gemma 3 от Google и Llama 3.1 от Meta (признана в России экстремистской и запрещена). Моделям задавали вопросы по чтению на 122 языках, а также задачи по математике и открытые запросы, переведенные еще на семь языков системой No Language Left Behind от Meta. Расход энергии замеряли системой ML.Energy, созданной в том же университете. Разрыв сохранялся и на крупных моделях, и на разных процессорах.
Причина — в токенах, коротких фрагментах, на которые нейросеть режет текст перед обработкой. Письменности вроде деванагари, на котором пишут на хинди, или бенгальской вязи порождают до миллионов комбинаций символов, поэтому текст распадается на куда больше токенов. Они занимают память компьютера, из-за чего модель обрабатывает их меньшими порциями и сжигает больше энергии на каждый фрагмент.
Исправить ситуацию, по мнению авторов, можно оптимизацией сервисов: направлять запросы моделям, заточенным под конкретный язык, или переводить их на английский перед обработкой.
«Разработчикам стоит создавать больше ресурсов для языков с энергетическим и ценовым разрывом, в том числе привлекать носителей к переводу материалов для обучения», — отметила соавтор Рада Михалцея, руководитель лаборатории ИИ Мичиганского университета.
Ранее исследователи раскрыли гендерные предубеждения ИИ о мигрантах.