Компания Anthropic предотвратила несколько возможных попыток использования ее ИИ-моделей для проведения исследований, которые могли помочь в разработке биологического оружия. Об этом пишет The New York Times.
В отчете о неправомерном использовании технологий Anthropic указала, что заблокировала исследователей и институты, которые пытались обходить защитные механизмы для проведения экспериментов двойного назначения. В одном из зафиксированных случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности.
«Вы не увидите кого-либо, кто скажет как в комиксах: «Я хочу создать биологическое оружие, чтобы уничтожить всех». Это невероятно сложная и неоднозначная ситуация», — сказал глава отдела разведки угроз Anthropic Джейкоб Кляйн.
Anthropic — американская технологическая компания в сфере искусственного интеллекта, создавшая семейство языковых моделей Claude.
До этого исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
В июле генеральный директор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.
Ранее Путин разрешил обучать российские ИИ-модели на объектах авторского права.