Искусственный интеллект уже активно используется в пищевой безопасности – формально и неформально, производителями и нормативными органами. Но к нему нельзя относиться, как к панацее.
Для чего нужен ИИ в пищевом секторе – мы уже рассказывали. Его применяют для анализа документов, составления требований, сравнения записей, подготовки к аудитам и других работ, требующих организации больших объёмов информации.
Вопрос уже не в том, применять или не применять ИИ в системах менеджмента безопасности пищевой продукции (СМБПП); он уже применяется. Вопрос в том, как применять его, не ослабляя контроль над СМБПП.
СМБПП работает не совсем так, как другие функции бизнеса. Эта система основана на прослеживаемости, достоверности и документации. Каждое принимаемое решение подлежит объяснению. Записи должны подтверждать, что действия были предприняты. Если во время аудита или инспекции какой-то вывод ставится под сомнение, компания должна показать, как она пришла к такому выводу и на какой информации он основан.
Вот здесь ИИ требует внимательного контроля.
Ценность ИИ не только в том, насколько быстро и подробно он даёт результаты, но и в том, можно ли эти результаты верифицировать. ИИ может организовать информацию, идентифицировать упущения, сравнивать документы, помогать в анализе на ранних стадиях – но он не может быть тем, кто принимает решения. Ответственность за интерпретацию данных, безопасность и качество продукта, соответствие нормативам по-прежнему лежит на квалифицированных профессионалах.
При правильном применении ИИ помогает построить СМБПП. При бездумном применении он создаёт риски, причём неочевидные.
Особенности данных в СМБПП
Существует много систем, в которых данные, сгенерированные ИИ, должны быть полезными и точными – и этого достаточно. В СМБПП этого недостаточно. Процедура, расследование, анализ опасностей, даже простое решение о размещении продукта должно быть основано не только на точной информации, но и на разумном суждении. Тот, кто принимает решение, должен быть в состоянии чётко объяснить, почему он его принял, на каких данных оно основано, насколько оно соответствует нормативам и внутренним процедурам компании.
Вот поэтому применение ИИ в СМБПП нельзя оценивать только по удобству. Если бот даёт вам короткий и ясный ответ – ещё не факт, что он надёжен. Возможно, ответ звучит логично, но в нём пропущена какая-то важная деталь, потому что у бота не было полной информации.
Это не значит, что ИИ бесполезен. Это значит, что применение ИИ как процесс должно быть чётко описано, а генерируемые им ответы подлежат анализу и верификации. В практическом смысле ИИ может помочь выполнить работу, но не может заменить человека, ответственного за результат.
Где ИИ может быть полезен
В СМБПП есть вопросы, по которым ИИ может предоставить реальную помощь. Обычно это организация информации, сравнение документов, идентификация несоответствий, анализ больших объёмов данных. Применение ИИ экономит время, но не снимает с людей ответственность за решения.
Анализ документов – одно из самых практичных применений ИИ в системе менеджмента качества (СМК). Стандартные операционные процедуры (СОПы), формы, политика, спецификации, дополнительные программы часто меняются со временем. Чем больше компания, тем труднее уследить за тем, чтобы актуальные версии документа дошли до всех, у кого должен быть доступ к нему. Из-за этого возникают упущения, несоответствия, ссылки на устаревшие документы, которые сотрудники замечают не всегда.
Помощь ИИ заключается в сравнении документов, идентификации повторов, несоответствий и тех случаев, когда процедуры противоречат друг другу. Можно также использовать ИИ для генерации первой версии процедуры, когда компания только начинает её создавать.
Представьте, что вы хотите обновить процедуру контроля аллергенов. ИИ может помочь вам установить, какие разделы этой процедуры подлежат пересмотру. Это может быть контроль поставщиков, проверка сырья при получении, верификация санитарной программы, анализ маркировки, тренинг сотрудников.
Но это лишь начало. Данные, которые предоставил бот, нужно проанализировать, основываясь на действующих нормативах, внутренних практиках, мерах контроля на конкретной площадке. Бот ведь не знает во всех подробностях, как работает ваше предприятие! Он может не понять, что процедуру написали так, а не иначе, из-за ошибок в прошлом, требований клиента или ограничений конкретного процесса. Поэтому он – всего лишь ваш помощник, а решение должны принимать вы.
Подготовка к аудиту – ещё одно дело, в котором ИИ приносит пользу. Для неё, как правило, нужен анализ огромного количества документов: СОПов, жалоб потребителей, файлов поставщиков, записей о тренинге, отклонениях, корректирующих и превентивных действиях (КПД), мониторинге окружающей среды, отчётов о внутренних аудитах, результатов анализа данных.
ИИ может организовать всю эту информацию и идентифицировать, какие её разделы требуют более тщательного анализа, проверить документы по чек-листу или подготовить вопросы, которые нужно задать при следующем внутреннем аудите. Также он может анализировать тенденции, указывая на часто повторяющиеся проблемы, отклонения или упущения.
Полезным применением ИИ будет тренировочный аудит документов. Если у бота будет информация о нормативных требованиях или критериях внутреннего аудита, он может проанализировать документы на соответствие этим требованиям и указать на несоответствия.
Но качество результатов зависит от качества исходных данных. Если ожидания прописаны недостаточно чётко или набор документов неполный, результаты могут оказаться неточными или вообще ошибочными.
Подготовка к аудиту – это не только подготовка документов. Вы готовы к аудиту, если ваша система реально работает, сотрудники понимают и соблюдают процедуры, а документы это подтверждают. ИИ может работать с документами, но не заменит реального анализа системы.
Квалификация поставщиков – ещё один хороший пример использования ИИ, но и здесь он может не всё. Файлы поставщиков – это, как правило, ещё один набор документов: вопросники, заявления об аллергенах, стране происхождения, планы пищевой безопасности, отчёты о внешних аудитах, гарантия, результаты тестов, фотографии сельскохозяйственного сырья. Чем больше у компании поставщиков сырья и упаковочных материалов, тем больше времени займёт анализ документов.
Как и в предыдущем примере, ИИ может сравнивать документы и отмечать, какой информации не хватает, где неверно проставлены даты, какие заявления кажутся недостоверными, на каких фотографиях продукты испорчены. Так отдел контроля качества поймёт, на что обратить внимание при анализе документов.
Чего ИИ не может, так это понять всю концепцию ваших отношений с поставщиком, все риски, связанные с материалами, производственным процессом или внутренними стандартами компании. Представьте, что поставщик предоставил все необходимые документы, но материал всё равно нуждается в дополнительном техническом анализе, который связан с целевым использованием, страной происхождения, историей несоответствий, риском заражения патогеном или аллергеном, клиентскими требованиями.
Квалификация поставщиков зависит не только от работы с документами, но и от умения принимать решения на основе риска. Эти решения не должен принимать бот.
Анализ отклонений и КПД, особенно в тех случаях, когда нужен анализ исторических данных – одно из самых полезных применений ИИ, потому что он может идентифицировать похожие отклонения в прошлом, выявляя похожие события, повторяющиеся ошибки и проблемы, связанные с оборудованием, материалами, процессами, персоналом или временем.
Как гласит старая пословица, «кто не знает прошлого – у того нет будущего». Если вы расследуете отклонение, например, внешний дефект сырья, нельзя при этом игнорировать похожие проблемы, возникавшие с таким же сырьём в прошлом. Здесь ИИ может идентифицировать тенденции, которые на первый взгляд неочевидны. Но будьте бдительны!
Да, ИИ может идентифицировать похожие проблемы, связанные с одной и той же производственной линией, ингредиентом, этапом обработки. Но если он нашёл что-то подобное, это ещё не значит, что найдена причина. Вы всё равно сами должны оценить процесс, опросить сотрудников там, где это нужно, проанализировать записи, факторы и, наконец, оценить, насколько правильный вывод сделал бот.
Если вы слишком быстро соглашаетесь с выводами, сделанными ИИ, вы рискуете неверно идентифицировать причину и внедрить КПД, которые не будут реально решать проблему. Получится, что ИИ, пусть и ненамеренно, отправил вас по ложному пути.
Для чего не стоит использовать ИИ
Итак, ИИ нельзя использовать для принятия решений, связанных с анализом опасностей, превентивным контролем, выпуском продукта, отзывом продукта, определением причин, одобрением поставщика или интерпретацией норматива. Для таких решений нужны технические знания, умение анализировать риски и понимание процессов.
Ещё ИИ не стоит использовать в тех случаях, когда его ответы не основаны на надёжных источниках информации. Если сделанный ИИ вывод нельзя объяснить или связать с исходной информацией, его нельзя считать достоверным.
Это особенно важно, когда ИИ интерпретирует нормативы или требования. Ответы, даваемые ИИ, могут выглядеть достоверно даже в тех случаях, когда они основаны на неполной или устаревшей информации. Перед тем, как заставлять бота анализировать документ, стандарт или внутреннее требование – убедитесь, что даёте ему полную и актуальную версию.
Кроме того, в большинстве компаний есть конфиденциальная информация, которую могут содержать записи поставщиков, спецификации, клиентские требования, рецептуры и так далее. Прежде чем использовать ИИ, вы должны определить, какую информацию можно ввести, насколько он надёжен в плане кибербезопасности, где будет храниться информация и как она может быть использована.
Вариативность как ключевой риск
Вариативность создаёт одну из главных трудностей при применении ИИ в СМБПП. Дело в том, что современные чат-боты не всегда дают однотипные ответы на похожие вопросы. Маленькое изменение в формулировке вопроса, источнике или контексте может привести к тому, что бот даст другой ответ. В одних случаях ответ получается лучше, в других – он становится менее точным или бот пропускает что-то важное.
СМБПП должна быть основана на полной информации и повторяемых методах. А если бот даёт разные ответы на однотипные вопросы, не указывая причин, эту информацию нельзя считать достоверной, не проведя её сравнительный анализ.
Это ясно видно в случаях, когда ИИ используется в разработке СОПов или анализе нормативов. На слишком общий вопрос ИИ может дать слишком общий ответ. Если в вопросе не указать источник норматива, то ответ может быть основан на неполной или устаревшей информации. Если бот не понимает, как проходит процесс, он может предложить процедуру, которая не подходит конкретно для вашего случая.
Это не значит, что ИИ не приносит пользы. Это значит, что выданный им ответ нужно анализировать. Такой ответ нельзя считать окончательным решением, если он не прошёл верификацию по источникам данных, нормативам и реальным процессам.
Практический контроль ИИ
Он становится всё более необходимым по мере того, как обучающиеся боты становятся более доступными. Без такого контроля сотрудники могут использовать ИИ неточно, неформально или способами, которые создадут риск для организации.
Политика по применению ИИ в СМБПП должна содержать ответы на следующие вопросы:
- Какие системы ИИ разрешены?
- Какие данные можно в них вводить, а какие нельзя?
- Для каких заданий можно использовать ИИ?
- Для каких заданий нельзя использовать ИИ?
- Кто несёт ответственность за анализ ответов, даваемых ИИ?
- Как нужно документировать применение ИИ?
- Как нужно подтверждать источники, на которые ссылается ИИ?
- В каких случаях нужен дополнительный анализ?
Ответы на эти вопросы должны быть прописаны чётко и не слишком сложно.
Когда ИИ решает не всё
Итак, ИИ эффективен тем, что может быстро работать с большим объёмом информации, в данном случае – с документами. Но во многих современных компаниях информация хранится в разных локациях, в разных форматах или в документах, которые сильно различаются по структуре. ИИ всё равно может анализировать такую информацию, но её качество может снизить достоверность его ответов.
Если данные не структурированы, результат их анализа будет неполным. Это ещё одно ограничение ИИ: он не может исправить плохие методы ведения записей и документации. Известны случаи, когда применение ИИ как раз указывало на такие слабости: бот не мог эффективно получать или сравнивать информацию.
В этом плане новым компаниям проще, чем давно существующим. Если вы только создаёте систему документации, программу менеджмента поставщика или платформу тренинга, вам проще изначально сделать её структурированной. Анализ такой информации легче независимо от того, кто им занимается – бот или человек.
Если вы хотите достоверных ответов от ИИ, сначала организуйте информацию, которую планируете ему давать. Это не такой захватывающий процесс, как само внедрение ИИ в СМБПП, но критически важный.
Риск – не в самом ИИ, а в его бесконтрольном использовании. Решение проблемы не в том, чтобы избегать ИИ, и не в том, чтобы использовать его по любому поводу. Он нужен только в тех случаях, когда от него есть реальная польза, и его применение не снимает с людей ответственности за то, как работает СМБПП.
Источник: crispy.news
