При регулярном общении ИИ за месяц может собрать очень много подробной личной информации о пользователе, причем речь не идет о тех данных, которые сообщаются напрямую. Впоследствии нейросеть начинает использовать эту базу для формирования ответов, создавая видимость, что ИИ по-настоящему понимает человека, объяснил в беседе с RT завлаборатоией доверенного ИИ РТУ МИРЭА Юрий Силаев.
Он отметил, что запросы позволяют сделать вывод о хобби, работе, интересах, финансовом положении и семье человека. Также можно понять, как часто пользователь сомневается, как реагирует на ответы и так далее. В итоге ИИ, собрав эти данные, начинает подстраивать ответы под конкретного человека. В этом есть плюсы – например, школьнику ИИ объясняет все просто, специалисту – не повторяет очевидные, базовые принципы и так далее.
Однако есть и риски – так, например, подобную персонализацию многие пользователи считывают как признак того, что ИИ хорошо понимает его и дает правильный ответ. Однако убедительность ответа не дает гарантии, что он верный, подчеркнул Силаев.
«Если человек из раза в раз описывает проблему только со своей точки зрения, ИИ может опираться на эту картину и невольно усиливать уже существующее мнение пользователя», — отметил эксперт.
Для проверки ИИ он посоветовал задать значимый вопрос в диалоге, а затем – в новом чате, где нет предыдущих данных, а затем оценить, насколько различны ответы. Также стоит попросить нейросеть перечислить факты о пользователе, которые могли повлиять на ответ.
Специалист предупредил сохранять бдительность, особенно если вопросы, заданные ИИ, по-настоящему затрагивают важные для человека темы.
«Если ответ касается денег, здоровья, права, работы или другого серьезного решения, совпадение с вашими ожиданиями — повод не меньше, а иногда и больше внимания уделить проверке фактов независимо», — заключил Силаев.
Ранее стало известно, что крупнейшие технологические компании начали готовиться к неизбежной ИИ-катастрофе.