Пермская целлюлозно-бумажная компания (ПЦБК) приостановила использование ИИ (искусственного интеллекта) в промышленном программировании после выявления потенциально опасных решений, предложенных нейросетью. Об этом «Газете.Ru» сообщил заместитель руководителя Центра метрологии и автоматизации группы предприятий ПЦБК Иван Тарасов.
На предприятии продолжают применять ИИ, например, для предсказания потребления электроэнергии и в других расчетах, невыполнимых классической математикой. При этом в разработке программ управления производством от использования ИИ отказались. Причиной стали предложенные ИИ алгоритмы, которые оказались неработоспособными и даже опасными для рабочих. К такому решению в ПЦБК пришли после попыток использовать все доступные ИИ-модели, включая ChatGPT, Gemini, Claude, DeepSeek, Grok и не только.
В частности, в рамках одного из тестов при разработке цепочек аварийных отключений система пропускала отдельные пункты, из-за чего оборудование могло отключаться с нарушением циклограммы (расписания в работе оборудования. – «Газета»).
«На оборудовании работают люди, их безопасность для нас на первом месте. Пропуск мельчайшей детали фатален. Например, в определенный момент должен открываться клапан в камере с высоким давлением и сбрасывать его, и если этого не сделать, то может произойти разрушение», – отметил Тарасов.
По его словам, нейросети не способны учитывать весь производственный контекст при разработке индустриальных решений и иногда игнорируют части технического задания, что в промышленной среде может привести к серьезным последствиям.
«Нейросеть никогда не сможет корректно учесть все изменения, которые происходят в ходе установки и запуска оборудования. Например, поставщик поставил не те датчики, подрядчик предоставил некорректные алгоритмы, в документах были не те единицы измерения. Профессионал заметит это с легкостью, существующие ИИ – почти никогда», – добавил эксперт.
Также на предприятии заявили, что главная проблема ИИ в промышленности в том, что даже в результате выявления ошибок их сложно проанализировать и исправить. По его словам, классическое ПО с жесткими регламентами сильно выигрывает у ИИ в использовании на производстве.
Ранее выяснилось, что минобороны США начнет использовать ИИ-агентов Google.