При редактировании текста нейросеть может галлюцинировать, поскольку не проверяет общий смысл каждой фразы. Об этом в интервью газете «Взгляд» сообщил директор по прикладным исследованиям и разработкам Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ Денис Деркач. Чтобы уменьшить галлюцинации, он посоветовал понижать «температуру» генерации.
«Температура генерации — это вероятность того, что генерация перескочит из одного минимума в другой. Нейросети действуют на основании примеров. Соответственно, если пользователь пишет текст, который с большой вероятностью может быть продолжен в разные смыслы, то он должен быть готов к тому, что будут галлюцинации», — объяснил эксперт.
По его словам, снижение температуры генерации сделает текст менее разнообразным, но уменьшит галлюцинации.
Согласно исследованию сервиса Яндекс Реклама, результаты которого имеются в распоряжении «Газеты.Ru», почти половина (43%) владельцев малого бизнеса в Москве уже применяет инструменты на базе искусственного интеллекта (ИИ) для решения рабочих и личных задач. При этом 60% опрошенных считают, что использование ИИ-инструментов приносит пользу для бизнеса.
Ранее эксперт объяснил, как внедрение нейросетей отразится на российском рынке труда.