Склонность нейросетей к уверенному выдумыванию несуществующих фактов, которую называют «галлюцинациями», уходит корнями в замыслы инженеров середины XX века, которые сознательно добавляли в вычислительные машины случайность. Об этом говорит историк Бенджамин Линдквист из Массачусетского технологического института в интервью для журнала Past and Present.
Создатели первых компьютеров были убеждены, что доля иррациональности необходима машине, которая должна думать по-человечески. Творчество они сравнивали со скачком мысли куда-то вбок и даже со сновидческим состоянием, позволяющим увидеть задачу новыми глазами. Так, инженер Bell Labs Джон Пирс, рассуждая в начале 1950-х о математике в искусстве, пришел к парадоксальному выводу: польза точных формул в том, чтобы убирать из произведения порядок и добавлять вспышку непредсказуемого, помогающую уйти от клише.
Случайность в машины чаще всего приносили искусственные нейросети, причем первые их версии строили психологи: модель мозга словно вскрывала черный ящик сознания, показывая, как оно совершает продуктивные ошибки. Соперники возражали, будто творчество — это обычное мышление, только выполненное лучше. Спор ученых шел о том, что такое человеческая изобретательность и как перенести ее в машину.
Ранних энтузиастов и сегодняшних пользователей разделяет сама причина любви к таким системам. Пионеров привлекало, что машина порой выдает неожиданные и даже странные ответы, ведь точными решениями владели и прежние вычислители, а причуды лабораторных разработок ни на что не влияли. Современные ChatGPT и Claude ценят прежде всего за то, что те чаще всего правы, поэтому компании стремятся сгладить в них «странность»: у бизнеса есть юридические и финансовые мотивы избегать сюрпризов.
«Ранние инженеры были на верном пути: между неожиданными творческими выводами, которые может предложить ИИ, и ошибками, то есть галлюцинациями, существует связь», — пояснил Линдквист. По его словам, полностью уйти от этого компромисса не удастся: стремясь к предсказуемости, разработчики неизбежно жертвуют чем-то другим.
Триумф этого подхода, как говорит историк, откладывался десятилетиями. В 1971 году в свой 43-й день рождения погиб Фрэнк Розенблатт, харизматичный психолог, суливший нейросетям революцию, когда инициатива уже переходила к символьному ИИ, описывавшему мир в виде правил и фактов. Лишь к 2012 году, когда интернет обеспечил машинам большие данные и мощные вычисления, нейросети обошли статистические методы машинного обучения и закрепились в лидерах.
Ранее ученые предупредили, что 10 минут взаимодействия с нейросетью могут снизить когнитивные способности человека.