Развитие искусственного интеллекта требует формирования культуры безопасного взаимодействия с интеллектуальными системами, создания единых этических стандартов, системы сертификации нейросетей и подготовки специалистов, которые будут оценивать корректность их работы. К такому выводу пришли участники дискуссии об этике искусственного интеллекта на интенсиве «ГорИИзонты: эволюция медиа», прошедшей в Москве.
По мнению участников мероприятия, искусственный интеллект уже оказывает влияние не только на рынок технологий, но и на медиа, науку и общественные процессы. Ключевым вызовом они назвали не развитие самих технологий, а способность человека сохранять критическое мышление, определять допустимые границы применения ИИ и адаптироваться к новой информационной среде.
На фоне этого научный сотрудник Центра искусственного интеллекта МГИМО Алена Цыплакова предложила формировать культуру безопасного взаимодействия человека с интеллектуальными системами.
«Нам нужна тотальная ИИ-гигиена. Важно понимать, как постоянное взаимодействие с интеллектуальными системами влияет на восприятие человеком реального мира, человеческих отношений и самого себя», — считает она.
Профессор РАН, МГУ и МФТИ Константин Воронцов предложил создать систему сертификации языковых моделей и новую профессию, представители которой будут оценивать этичность поведения нейросетей. По его словам, для этого необходимо разработать тысячи специализированных тестов, позволяющих оценивать поведение моделей в различных коммуникативных ситуациях.
«Для этого нужны специалисты, в основном гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. На основе этого появятся процедуры сертификации, когда, не пройдя эти тесты, модель не может быть выпущена для использования людьми», — отметил Воронцов.
Проректор по медиаобразованию Мастерской управления «Сенеж» президентской платформы «Россия — страна возможностей», глава «Мастерской новых медиа» Михаил Канавцев заявил, что обучение интеллектуальных систем должно учитывать не только фактические знания, но и особенности человеческой коммуникации.
«Если машина взаимодействует с человеком, она должна понимать особенности этого взаимодействия так же, как мы понимаем этапы воспитания ребенка. Нужно учить систему не только отличать правду от лжи, но и понимать, что полезно человеку, а что способно причинить вред», — резюмировал он.