Использование ИИ для контроля хищения лекарств в больницах демонстрирует успехи, но требует человеческого надзора

Согласно материалу Alexandra Byrne, больницы по всей территории США все чаще обращаются к системам искусственного интеллекта для контроля перемещения подконтрольных веществ и выявления внутренних краж лекарств медицинским персоналом. Внедрение алгоритмов машинного обучения направлено на выявление отвода лекарственных средств (drug diversion) — незаконного перенаправления рецептурных препаратов, таких как опиоиды и анестетики, от законного медицинского использования к личному потреблению или незаконной продаже. Однако недавние результаты показывают, что хотя технологии автоматизированного наблюдения могут успешно фиксировать аномальные схемы назначения препаратов, расхождения при списании и несанкционированный доступ к медицинским автоматизированным диспенсерам, программное обеспечение остается принципиально зависимым от проверки человеком и оперативного реагирования для эффективного пресечения нарушений.

## Ключевые факты - Программное обеспечение на базе искусственного интеллекта, внедренное в больничных сетях, анализирует электронные медицинские карты и журналы автоматизированных диспенсеров лекарств для выявления возможного отвода препаратов медицинскими работниками. - Алгоритмы ПО отслеживают такие аномалии, как задержка в утилизации неиспользованных подконтрольных веществ, чрезмерные объемы изъятия препаратов и несоответствие показателей боли у пациентов вводимым дозировкам. - Техническая эффективность напрямую зависит от человеческого надзора, включая своевременный аудит со стороны руководителей больничных аптек, сотрудников по соблюдению нормативных требований (комплаенс-офицеров) и медицинских управляющих. - Неконтролируемые или непроверенные оповещения, создаваемые автоматизированными системами наблюдения, часто не позволяют предотвратить систематические кражи лекарств или нарушения безопасности пациентов. - Требования по соблюдению нормативных предписаний федеральных органов, таких как Drug Enforcement Administration (DEA), обязывают медицинские учреждения вести строгий учет подконтрольных веществ списков Schedule II–V независимо от интеграции автоматизированного ПО.

## Что произошло Материал Alexandra Byrne подчеркивает растущие масштабы внедрения специализированных приложений машинного обучения, предназначенных для аудита сложной цепочки поставок наркотических средств в стационарных учреждениях. Современные больничные системы ежедневно обрабатывают десятки тысяч назначений лекарств через автоматизированные диспенсеры, системы электронных медицинских карт (EHR) и контейнеры для утилизации отходов. Поскольку ручной аудит столь огромных потоков данных позволяет выявить лишь небольшую часть неправомерных действий, медицинские сети интегрировали алгоритмы ИИ-платформ для непрерывной перекрестной проверки журналов учета запасов и клинической документации.

Эти ИИ-платформы одновременно оценивают несколько векторов риска. Например, алгоритм может обнаружить случаи, когда медсестра регулярно извлекает более высокую дозу подконтрольного вещества, чем предписано, задерживает обязательный процесс двойного подтверждения при утилизации остатков жидких наркотических средств или запрашивает доступ к ящикам с медикаментами для пациентов, не закрепленных за ее отделением. Рассчитывая оценку риска для отдельных медицинских работников на основе статистических отклонений от базовых показателей коллег, технология выявляет потенциальные случаи отвода лекарств значительно быстрее, чем традиционные ретроспективные проверки.

Однако основное ограничение технологии заключается в реализации человеческого компонента рабочего процесса обеспечения безопасности. Сигналы данных, генерируемые инструментами наблюдения, требуют ручной проверки сотрудниками больничных служб расследований, администраторами аптек или руководителями клинических подразделений. Отчеты показывают, что когда административные группы не проводят своевременных расследований по оповещениям высокого риска, упускают из виду ложноположительные срабатывания или игнорируют стандартный протокол при работе с попавшим под подозрение персоналом, автоматизированные средства защиты не способны предотвратить вред до его возникновения. Технология функционирует как система раннего предупреждения, но ее успех зависит от операционной дисциплины человека.

## Почему это важно Операционные ограничения программного обеспечения ИИ для предотвращения отвода лекарств имеют серьезные последствия для безопасности пациентов, общественного здравоохранения и финансовой ответственности больниц. Отвод лекарственных средств в медицинских учреждениях напрямую угрожает благополучию пациентов несколькими способами: пациенты могут получать разбавленные препараты или инъекции физраствора вместо предписанной обезболивающей терапии, испытывать некупированную острую боль или подвергаться риску заражения гемоконтактными инфекциями в случае повторного использования поврежденных игл или флаконов зависимым медицинским персоналом.

Для медицинских учреждений неспособность выявить отвод препаратов приводит к суровым установленным законом наказаниям. В соответствии с Controlled Substances Act федеральные агентства, такие как Drug Enforcement Administration (DEA), налагают строгие юридические требования на зарегистрированные медицинские учреждения по поддержанию мер безопасности и предоставлению отчетов о любых кражах или значительных потерях подконтрольных веществ в течение одного рабочего дня с помощью формы DEA Form 106. В последние годы крупные больничные сети столкнулись с многомиллионными гражданско-правовыми штрафами и административными предписаниями регуляторов после системных сбоев в вычислении долгосрочного внутреннего отвода препаратов.

Кроме того, опирание на автоматизированное наблюдение без надлежащего кадрового обеспечения создает системные уязвимости. Если руководство больницы рассматривает интеграцию ИИ как замену активному клиническому надзору, а не как вспомогательный инструмент, учреждения рискуют столкнуться с «усталостью от оповещений» (alert fatigue) — феноменом, когда большой объем автоматических предупреждений приводит к тому, что руководители игнорируют или суммарно закрывают отмеченные записи без тщательного расследования. Поскольку искусственный интеллект становится стандартной инфраструктурой в администрировании больниц, определение точного баланса между алгоритмическим обнаружением и административной ответственностью человека имеет решающее значение для управления рисками и клинической безопасности.

## Контекст Проблема отвода лекарственных средств в медицинских учреждениях долгое время представляла собой сложный вызов для управления клиническими рисками и правоохранительных органов. Подконтрольные вещества, наиболее часто становящиеся целью в больничной среде, включают высокоэффективные синтетические опиоиды, такие как фентанил, гидроморфон и морфин, а также седативные средства, такие как мидазолам и пропофол. Исторически больницы полагались на ручные бумажные журналы и периодический физический пересчет наркотических средств, хранящихся в запираемых шкафах в отделениях, для поддержания контроля над запасами.

Внедрение автоматизированных диспенсеров (ADCs) в конце 1990-х и 2000-х годах модернизировало отслеживание запасов за счет требования электронной аутентификации пользователей, биометрического сканирования и компьютеризированного регистрации транзакций. Несмотря на эти механические средства контроля, мотивированные нарушители находили способы обхода защитных мер, такие как оформление подконтрольных веществ как введенных пациенту с фактическим их удержанием, заявление о полной утилизации доз без надлежащего вторичного свидетельствования или изъятие препаратов по отмененным назначениям.

Согласно федеральным нормативным руководствам, учреждения, работающие с подконтрольными веществами, должны строго соблюдать федеральные правила, изложенные в Title 21 of the Code of Federal Regulations (CFR), Part 1301. Эти правила требуют, чтобы регистранты DEA внедряли физические меры безопасности, четкие стандарты ведения учета и комплексные протоколы проверки сотрудников. В ответ на рост уровня расстройств, связанных с употреблением веществ, и жесткое применение нормативных требований за последнее десятилетие разработчики ПО создали специализированные платформы машинного обучения, способные интегрировать разрозненные больничные информационные системы — объединяя клинические записи EHR, программное обеспечение для составления графиков смен сотрудников и журналы автоматизированной выдачи в единые аналитические конвейеры. Хотя эти инструменты значительно улучшили агрегацию данных, нормативное бремя расследования и уставной отчетности целиком остается на администраторах-людях и назначенных комплаенс-офицерах.

## Реакция Вслед за отчетами о возможностях и ограничениях ИИ-инструментов наблюдения за лекарствами реакция администраторов здравоохранения, организаций по защите прав пациентов и экспертов по нормативному регулированию подчеркивает необходимость реалистичных операционных ожиданий. Специалисты по комплаенсу подчеркивают, что инвестиции в технологии должны сопровождаться выделением рабочего времени персонала для проведения внутреннего аудита, отмечая, что автоматическое оповещение не имеет юридической или операционной ценности до тех пор, пока обученный комплаенс-офицер не проведет фактический анализ карты пациента и записи о движении запасов.

Отраслевые аналитики и специалисты по клинической безопасности предостерегают руководящие советы больниц от рассмотрения искусственного интеллекта как меры по сокращению расходов, позволяющей учреждениям сокращать персонал по контролю соответствия. Представители профессиональных фармацевтических ассоциаций вновь подтвердили, что человеческое суждение остается незаменимым для интерпретации контекста — например, для понимания того, когда временный всплеск изъятий подконтрольных веществ конкретной медсестрой вызван лечением тяжелых травматологических больных в отделении неотложной помощи, а не незаконным отводом.

## Что пока неизвестно Сохраняются значительные пробелы в отношении точной операционной эффективности ИИ-инструментов наблюдения в различных больничных условиях. Опубликованные отчеты не содержат конкретных количественных ориентиров, сравнивающих уровень ложноположительных результатов конкурирующих платформ машинного обучения, а также не количественно оценивают точное снижение числа невыявленных случаев отвода препаратов после долгосрочного внедрения системы.

Кроме того, открытые данные остаются ограниченными относительно того, как небольшие сельские больницы или районные медицинские учреждения с недостаточным ресурсообеспечением, в которых часто отсутствуют штатные группы по комплаенсу, справляются с человеческим рабочим процессом, необходимым для обработки автоматических оповещений о рисках. Также остается неясным, в какой степени федеральные регуляторы, включая DEA и Department of Health and Human Services (HHS) Office of Inspector General, установят формальные технические стандарты или требования к аудиту, специально регулирующие использование алгоритмов ИИ в уставной отчетности по контролю за оборотом лекарственных средств.

## За чем следить Несколько ключевых этапов и нормативных изменений будут определять будущее внедрения ИИ в мониторинг отвода лекарственных средств в больницах: - Обновления нормативной политики: следите за возможными руководящими указаниями от Drug Enforcement Administration (DEA) или Department of Health and Human Services относительно допустимых стандартов алгоритмического надзора и автоматизированных журналов аудита при контроле оборота подконтрольных веществ. - Институциональные кадровые модели: обозревателям медицинской отрасли следует отслеживать, создадут ли больничные системы специализированные централизованные отделы аудита, предназначенные именно для проверки оповещений о рисках, сгенерированных ИИ. - Судебные разбирательства и правоприменительные меры: будущие гражданские иски или административные соглашения между федеральными прокурорами и больничными системами покажут, будут ли суды и регулирующие органы привлекать учреждения к ответственности в случаях, когда оповещения ИИ были сформированы, но проигнорированы персоналом. - Интеграция с новыми клиническими аппаратными средствами: следите за технологическими разработками, сочетающими ПО машинного обучения с продвинутыми датчиками контейнеров для утилизации, биометрической верификацией и экспресс-анализом утилизируемых жидких наркотических средств в реальном времени для снижения риска человеческой ошибки при физическом аудите.

Этот отчет основан на оригинальном новостном материале Alexandra Byrne.