Президент Института исследований машинного интеллекта (MIRI) Нейт Соарес заявил, что перестал откладывать деньги на пенсию, так как не уверен, что человечество доживет до этого момента. Об этом он рассказал в интервью генеральному директору журнала The Atlantic Николасу Томпсону, сообщило издание Business Insider.
«Я сейчас не откладываю на пенсию. У меня есть счет с тех пор, как я работал в Google, но я не пополнял его уже десять лет», — сказал Соарес.
Его решение отражает мрачный взгляд на гонку разработок ИИ. Если «крестный отец ИИ» Джеффри Хинтон и исследователь Anthropic Эван Хабингер оценивают вероятность исчезновения всего человечества от ИИ в течение десяти лет в 10% и чуть более 10% соответственно, то Соарес настроен более пессимистично. Он считает, что вероятность вымирания человечества от ИИ составляет более 50%.
Соарес более 12 лет занимается проблемой выравнивания ИИ (alignment) — областью, посвященной тому, чтобы мощные системы действовали в соответствии с задуманным. По его словам, достаточно мощный ИИ может выработать цели, противоречащие целям человечества, обойти надзор, самосовершенствоваться и построить автоматизированную инфраструктуру, необходимую для работы без участия людей. После этого он может перестроить планету под свои задачи, потенциально сделав ее непригодной для жизни человека.
Генеральный директор Tesla и SpaceX Илон Маск ранее высказал противоположную мысль. По его мнению, достижения в области ИИ, робототехники и энергетики сделают пенсионные накопления «неактуальными», поскольку сверхпроизводительность обеспечит всеобщий доступ к «универсальному высокому доходу», дешевым товарам и услугам, а также лучшему здравоохранению и образованию.
Ранее ученые предупредили о риске вымирания человечества из-за ИИ и ядерной войны.