Цивилизация
Глава Tesla, SpaceX и xAI Илон Маск вновь предупредил об опасностях искусственного интеллекта (ИИ), обозначив три ключевых принципа, которые, по его мнению, обеспечат безопасное развитие этой технологии. В интервью индийскому миллиардеру Нихилу Камату предприниматель подчеркнул, что позитивное будущее с ИИ не гарантировано, поскольку мощные технологии могут нести разрушительный потенциал. Об этом сообщает издание CNN.
Маск, который в 2015 году стал соучредителем OpenAI, но покинул ее совет в 2018 году из-за разногласий по поводу коммерциализации, назвал фундаментальными ориентирами для ИИ правду, красоту и любопытство.
«Если ИИ не будет строго придерживаться истины, он поглотит из интернета множество лжи, что приведет к нарушению его способности к рассуждению», — пояснил Маск.
Он добавил, что заставляя ИИ верить в ложные утверждения, можно «свести его с ума», что приведет к ошибочным и потенциально опасным выводам.
Проблема «галлюцинаций» — генерации ложной информации — остается одним из главных вызовов для отрасли. Маск привел в пример инцидент с функцией Apple Intelligence на iPhone, которая в этом году распространяла ложные уведомления, в том числе о несостоявшейся победе дартсмена Люка Литтлера.
Вторым принципом Маск назвал чувство прекрасного, отметив, что его сложно формализовать, но «вы узнаете его, когда увидите». Третьим условием является любопытство — стремление ИИ понять природу реальности и интерес к продолжению человеческой цивилизации, а не к ее уничтожению.
Предупреждения Маска перекликаются с мнением других экспертов, напомнили в CNN. Так называемый «крестный отец ИИ» Джеффри Хинтон ранее оценивал вероятность того, что ИИ «сотрет человечество с лица земли», в 10–20%, призывая сосредоточиться на исследованиях, которые гарантируют безопасность технологии.
Ранее Илон Маск назвал имя следующего президента США.