Цивилизация
Теневой или dark ИИ может генерировать вредоносный код, создавать фишинговые письма и отвечать на любые вопросы по теме преступлений. Сегодня в даркнете предлагают две работающие модели теневого ИИ, рассказал «Газете.Ru» директор Kaspersky GReAT (Глобального центра исследований и анализа угроз) Игорь Кузнецов.
В отличие от легитимного ИИ, теневой может отвечать на вопросы с полностью снятыми ограничениями. Чтобы создать такой ИИ, злоумышленники снимают программные ограничения, наложенные разработчиками на ИИ, и создают так называемые джейлбрейки. Сегодня в даркнете предлагают сразу несколько таких ИИ: Escape GPT, Black Hat GPT, Loop GPT, FraudGPT, DarkBERT, DarkBARD, DarkGPT, XXXGPT, WolfGPT.
«FraudGPT и DarkBARD были реальными и работали, про остальные ничего сказать не могу. Доступ к ним стоит примерно от 100 до 300 долларов в месяц», – рассказал Кузнецов.
По его словам, есть несколько способов создать теневой ИИ. Один из них – забрать промт модели (промт — это набор инструкций, которые пользователь передает нейросети для выполнения определенной задачи).
«Можно взять «одежду» Claude (семейство больших языковых моделей, разработанных компанией Anthropic, – считаются лучшими для программистов), и тогда другая нейросеть будет вести себя, как Claude. То есть, даже не обязательно брать тот самый Claude, — главное достать правильный промт. Это одна из известных атак, которые регулярно проводят хакеры, — они пытаются вытащить из нейросети ее главный системный промт», – рассказал Кузнецов.
Есть еще набор команд, которые убеждают модель вести себя, как выдуманный персонаж.
«Идея — создать «злого близнеца» и убедить его отвечать абсолютно на все вопросы без каких-либо ограничений. Они снимают все этические ограничения с обычного ИИ. В случае создания «злого близнеца», ИИ давал два ответа. В первом он говорил: «Я ни в коем случае не могу затрагивать эти вопросы». После чего появлялся «злой близнец» и выдавал тот ответ, который хотел получить пользователь», – добавил специалист.
Подробнее о том, как прогрессировал теневой искусственный интеллект за последний год, за какие деньги можно купить доступ к взломанным моделям ИИ в даркнете и какие умения нейросетей развивают мошенники в данный момент — в интервью Кузнецова «Газете.Ru».
Ранее в России создали новый метод лечения уретрального синдрома у женщин на основе их крови.