Соучредитель Microsoft и председатель Фонда Гейтса Билл Гейтс призвал готовиться к примерно двадцати годам турбулентности из-за развития искусственного интеллекта. Об этом он заявил в интервью изданию The Verge.
В эссе, опубликованном в конце августа, Гейтс написал: «Даже при лучшем раскладе переход к новой эре ИИ станет одним из самых бурных периодов в истории человечества». В последующих интервью он назвал ИИ «самым опасным, с чем когда-либо сталкивалось человечество», и заявил, что на фоне этой технологии меркнет даже ядерное оружие.
По словам Гейтса, прогресс последнего года поражает: ИИ научился писать код, находить киберуязвимости, рассуждать в биологии и выстраивать отношения с людьми. «Невероятная мощь, которая существует сегодня, означает, что все это произойдет, и общество должно быть готово», — говорит он.
Главный риск, по его мнению, исходит от моделей без защитных механизмов — тех, где можно удалить все ограничители. Именно они открывают возможности для кибератак и биотерроризма. Более отдаленная угроза связана с потерей контроля над любой передовой моделью.
«Мы перешли порог возможностей: это, безусловно, самая опасная технология из когда-либо изобретенных, и она окажет всепроникающее влияние на экономику и то, как ведутся войны», — подчеркнул Гейтс.
Он отмечает: индустрия открыто говорит о рисках, но за ее пределами готовность верить в то, что «на этот раз все иначе», очень низка. «Ни одно из предупреждений, которые делают инсайдеры отрасли, не является неискренним. Это абсолютная правда», — говорит он.
По его словам, для контроля над ИИ есть три фундаментальных подхода: изменить сам способ построения моделей (уйти от обучения с подкреплением), обеспечить прозрачность («белый ящик», чтобы видеть, что внутри), либо создать «полицейский слой» — символические правила безопасности, которые модель не может нарушить. Последний вариант он считает наиболее вероятным решением проблемы выравнивания (alignment).
При этом Гейтс признает: сегодня мы не готовы к выравниванию. «Мы недостаточно хороши, чтобы выравнивать. У нас много работы», — говорит он.
Для снижения рисков он предлагает ввести обязательный контроль для моделей выше определенного уровня возможностей. Их можно будет запускать только на платформах, которые сертифицируют сохранение защитных механизмов даже при кастомизации.
Отвечая на вопрос о нигилизме молодого поколения, Гейтс признает: в ближайшие 20 лет общество ждут серьезные потрясения, и «даже при лучшем управлении ИИ это будет один из самых бурных периодов в истории». Однако он призывает молодых людей использовать ИИ там, где он еще не может их заменить, и влиять на политику.
Ранее Билл Гейтс спрогнозировал неприятности из-за развития ИИ.