Современные люди начали слишком доверительно общаться с искусственным интеллектом, считая технологии лучше людей во многих аспектах. Такое доверие сопряжено с предоставлением нейросетям большого количества данных, однако это опасный подход, заявил председатель Совета по правам человека Валерий Фадеев в беседе с RT.
Сегодня для многих стало нормой считать, что ИИ компетентнее людей-специалистов, напомнил глава СПЧ.
«Вот где опасность. Слишком высокая степень доверия к тому, что предъявляет искусственный интеллект», — считает он.
Человек не может быть просто приложением к машине, он по умолчанию намного сложнее, добавил Фадеев. Говоря о рисках использования ИИ, он выделил угрозы слежки и манипуляции пользователями, отметив, что нейросети хранят о людях столько информации, что «никакой КГБ» не смог бы собрать.
До этого сообщалось о планах компании Anthropic предупредить потенциальных инвесторов о том, что продвинутый искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества». Компания указывает, что они могут проявлять «самосохраняющееся поведение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, «напоминающее шантаж».
Подчеркивается, в частности, что модели иногда развивают неожиданные способности во время обучения, которые могут не обнаружиться до развертывания и привести к серьёзным инцидентам безопасности.
Родители ранее рассказали о неожиданном влиянии нейросетей на школьников.