Хотя с развитием искусственного интеллекта ему доверяют все больше задач, пока невозможно полностью передать ему управление сложными системами. Однако следующий шаг – это создание сверхинтеллекта, который будет во многом обгонять людей и перетянет на себя многие ключевые вопросы, заявил в беседе с RT доцент факультета программной инженерии и компьютерной техники, руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских.
«Технологии доросли до термина «общий искусственный интеллект» или «сильный искусственный интеллект». Следующая ступень — создание сверхинтеллекта, который по своим возможностям превзойдет человека», — предрек эксперт.
Он предупредил, что ИИ нельзя передавать слишком много управленческих функций, поскольку это приведет к тому, что люди перестанут понимать, как работает вся система целиком. В конечном счете люди потеряют компетенции и уже не смогут перехватить их у ИИ, потеряв управление в кризисных ситуациях, подчеркнул Кугаевских.
В то же время пока нейросети несовершенны – они еще часто «галлюцинируют», не обладают самосознанием, креативностью и критическим мышлением, поэтому переоценивать их возможности не стоит, добавил эксперт.
«Нейросети не могут сами ставить себе задачи, что бы ни говорили представители ИТ-компаний», — заключил он.
Напомним, гендиректор Российского квантового центра (РКЦ) Алексей Федоров до этого заявил, что у людей есть только одна возможность предотвратить деградацию человечества из-за тотального делегирования мышления ИИ – это развитие критического мышления. Именно оно позволит сделать машинное обучение и прочие технологии не решебником с готовыми ответами, а инструментом и помощником, убежден эксперт.
Глава РКЦ ранее не исключил риски появления Матрицы и восстания машин.