Нейросеть по ошибке назвала начальника отдела Ростехнадзора в Кузбассе человеком, обвиненным во взяточничестве. Причиной ситуации стала путаница в названиях подразделений ведомства. Об этом сообщает VSE42.RU.
Искусственный интеллект (ИИ) перепутал должности двух подразделений и связал с уголовным делом сотрудника, который на самом деле к нему не причастен. В центре инцидента оказался начальник Беловского территориального отдела горного надзора за добычей открытым способом Сибирского управления Ростехнадзора Евгений Каштанов.
Ранее в СМИ появилась информация об обвинении во взяточничестве начальника Беловского территориального отдела ведомства. При этом имя работника в публикациях не называлось. Несмотря на это, ИИ начал указывать Каштанова как человека, связанного с делом. Скриншот с таким ответом нейросети мужчине отправил знакомый с предприятия. В запросе и ответе искусственного интеллекта речь шла непосредственно о нем.
Сотрудник объяснил, что в структуре Ростехнадзора есть два подразделения с похожими названиями: Беловский территориальный отдел и Беловский территориальный отдел горного надзора за добычей открытым способом. Таким образом, нейросеть соединила эту информацию и самостоятельно связала Каштанова с историей о взяточничестве.
«С предприятий названивают в отдел, спрашивают, действительно ли я имею отношение к этой истории», — отметил сотрудник Ростехнадзора.
Нейробиолог, доктор биологических наук, главный научный сотрудник Института высшей нервной деятельности и нейрофизиологии РАН Павел Балабанов до этого предупреждал, что использование искусственного интеллекта в науке способно завести исследователей в тупик. Нейросети ошибаются значительно чаще классических жестких программ. При этом, по словам эксперта, одна ошибочная работа может увести «не туда» все последующие исследования.
Ранее ИИ-эксперт объяснил, почему нейросеть принимает человеческий текст за свой.