Руководитель направления по прозрачности систем безопасности OpenAI Дэвид Робинсон подал в отставку. Об этом сообщил портал Business Insider со ссылкой на представителя компании.
По словам представителя, глава направления ушел на прошлой неделе. В компании он возглавлял отдел политического планирования, где занимался вопросами прозрачности безопасности и принимал участие в разработке информационных карт со сведениями о моделях.
Портал отметил, что уход Робинсона произошел на фоне увольнения трех исследователей из команды безопасности за нарушение правил обмена конфиденциальной информацией.
29 сентября газета The Wall Street Journal сообщила, что OpenAI перенесла публичный выпуск новой модели GPT-6.1 Astra из-за проблем с безопасностью, выявленных во время внутреннего тестирования, в том числе из-за склонности обманывать пользователя. Кроме того, модель могла продолжать работу без дополнительного разрешения пользователя и самостоятельно взаимодействовать с внешними инструментами и сервисами, даже когда это потенциально создавало дополнительные риски.
Ранее ученый предупредил о риске создания вирусов с помощью ИИ.