В настоящее время нейросети переживают период наибольшей востребованности. Сфера их применения крайне широка: от помощи школьникам с домашними заданиями, разработки оптимальных диет и развлечений до оптимизации рабочих процессов и постановки диагнозов!
Незначительные ошибки в школьном реферате, вероятно, останутся незамеченными, однако ошибочная интерпретация результатов анализов или исследований способна вызвать серьезное беспокойство. В таком случае может потребоваться обращение к ChatGPT или DeepSeek с новым запросом: «Сыграй роль психолога».
Даже если вспомнить, как некоторые программы, использующие искусственный интеллект, обрабатывают текст, — они способны заменять слова синонимами или ошибочно понимать смысл предложений, — это заставляет задуматься.
В то же время разговоры о скорой замене нейросетями специалистов, включая врачей, стали повсеместными. Привлекает не только удобство и оперативность получения сведений о здоровье при взаимодействии с искусственным доктором (отсутствуют очереди и нервное напряжение), но и шанс выявить то, что может не заметить живой врач. Такие случаи, к слову, тоже нередки.
Нашли пневмонию, но пропустили рак и аневризмы
Елена Панина, старший преподаватель кафедры лучевой диагностики МОНИКИ им. М. Ф. Владимирского и эксперт в области искусственного интеллекта в одной из российских компаний-разработчиков, отмечает, что технология искусственного интеллекта получила широкую известность еще в 1956 году, однако ее применение в медицине стало более интенсивным во время пандемии COVID-19. В то время наблюдался значительный объем КТ-исследований, и врачи испытывали перегрузку.
После завершения пандемии осталось огромное количество результатов компьютерной томографии. При последующем анализе этих снимков с использованием нейросетей специалисты обнаружили, что, хотя врачи и выявляли пневмонию, они упускали значительное число опасных для жизни состояний, таких как рак или аневризма аорты.
Как объяснить сложившуюся ситуацию? По словам Елены Паниной, подобное обусловлено особенностями работы нашего внимания.
«В ситуации, когда перед врачом стоит задача диагностики и необходимо определить масштаб какого-либо процесса, он находит на это ответ. Если вы сосредоточены на достижении цели, подобно тому, как добираются до Красной площади, вы, безусловно, заметите некоторые детали по пути. Однако, если вам не указали, на какие элементы следует обратить внимание и что необходимо взять с собой, вы просто достигнете Красной площади. Ваше внимание сосредоточено на конечном результате. Целью оценки изображения для врача является выявление определенных патологических изменений, и в данном случае аневризма может быть пропущена, поскольку она не соответствует его диагностическим задачам. Тем не менее, она присутствует на изображении », — поделилась Елена Панина на форуме «В фокусе – здоровье», который был организован фармацевтической компанией «Гедеон Рихтер».
Способность нейросетей обрабатывать больший объем информации, чем человек, является значительным преимуществом. Однако, стоит ли безоговорочно доверять результатам их работы и поставленным диагнозам? Могут ли они допускать ошибки, и какие риски возникают при предоставлении ИИ-врачу данных о вашей медицинской истории?
Елена Панина поделилась информацией о том, как искусственный интеллект применяется в современной медицине.
В чем сила ИИ-врача
1. У него лучше «зрение»
Искусственный интеллект способен анализировать изображения и выявлять детали, которые врач сможет заметить лишь спустя некоторое время.
По словам Елены Паниной, человеческое зрение различает от 700 до 1000 оттенков серого, а гаджеты и экраны могут передать только 256 . Рентгеновские снимки и компьютерная томография демонстрируют различия в оттенках белого и серого. Рентгенологу необходимо учитывать эти нюансы, определяя, является структура немного светлее или немного темнее?
Значительное влияние оказывают также настройки, используемые рентген-лаборантом при работе с оборудованием, поскольку они могут варьироваться. В результате, например, образование, не превышающее 2 мм, на белой кости может остаться незамеченным врачом, в то время как у ИИ есть больше возможностей для его обнаружения.
2. Работает быстрее
Недавнее исследование, в котором приняли участие 99 российских врачей, продемонстрировало, что применение искусственного интеллекта позволяет медикам сокращать время, затрачиваемое на работу, и одновременно повышать производительность.
По словам Елены Паниной, участникам эксперимента было предложено проанализировать и описать 30 КТ-снимков грудной клетки, содержащих 12 различных патологий. В процессе работы на их ноутбуках функционировала программа, фиксирующая траекторию взгляда, время, затрачиваемое на описание, скорость просмотра и другие параметры, что позволяло смоделировать реальный рабочий процесс. В результате было установлено следующее.
При самостоятельном описании, без использования искусственного интеллекта, врач выявлял находки лишь в 41% случаев, затрачивая на это в среднем 15 минут. Использование ИИ, который акцентировал внимание на важных областях, позволило врачу описывать 91% находок, сократив время работы до 11 минут.
3. Обходится дешевле
Временные затраты врача обходятся дороже, чем анализ компьютерной томографии с использованием технологий искусственного интеллекта, при этом специалист выполняет эту задачу значительно быстрее.
Недостатки тоже имеются
На первый взгляд, искусственный врач демонстрирует более высокую скорость и качество работы. Возникает вопрос, способен ли он в перспективе полностью заменить врачей-людей?
Но вопросы пока остаются.
-
Откуда ИИ-доктор все знает?
Его об этом сообщили люди. По словам Елены Паниной, в настоящее время, согласно установленным нормам, медицинские изображения при формировании базы данных ИИ достаточно единого мнения двух экспертов — например, что это за образование, какие у него должны быть характеристики и так далее. Если два эксперта в чем-то не согласны, мнение за третьим . Значит, все равно кто-то не согласен.
«Вот два эксперта. Один утверждает: «Это синий цвет». Второй эксперт соглашается: «Синий». Вся эта информация была зафиксирована у него (у ИИ) в виде кода 123 — в коде это будет обозначено как «синий». Однако появляется другой эксперт и заявляет: «Нет, это голубой». Искусственный интеллект, обладающий алгоритмом и числовыми данными, распознает, что это голубой цвет? Нет», — приводит пример Елена Панина.
В отличие от практикующих врачей, которые способны учитывать различные интерпретации нормы и вести профессиональную дискуссию, ИИ-доктор представляет собой программный код и может взаимодействовать исключительно с другими кодами.
-
Найдет все?
«Фактическое использование продуктов может не соответствовать рекламным и маркетинговым обещаниям. Это связано с тем, что разработчики создают продукт, а маркетологи занимаются его продвижением и продажей. Часто заявляется, что на снимке можно обнаружить все необходимое, однако умалчивается, что лишь небольшое количество патологий (1-2-4) видны, в то время как остальные 24 остаются незамеченными, поскольку продукт не предназначен для их распознавания. В результате, ожидания от продукта оказываются завышенными, – отмечает кандидат медицинских наук.
-
А «лишние» находки бывают?
Да, бывают. По словам Елены Паниной, разные производители в своих программах используют разные настройки.
Некоторые специалисты корректируют параметры алгоритмов, стремясь к увеличению числа ошибочных срабатываний: пусть врачи проводят дополнительные проверки, но при этом не упускают важные случаи. Другие выбирают умеренный подход, а третьи ориентируются на подтвержденные результаты. Если же обнаружены незначительные и неясные отклонения, то они не вызывают беспокойства.
-
Кто будет отвечать?
Нейросети не несут ответственности за ошибочные диагнозы и предписанное лечение.
По словам эксперта, в любом направлении, будь то лучевая или функциональная диагностика, ЭКГ или анализ родинок, сегодня юридическую ответственность несет тот человек, который заполняет протокол и ставит свою подпись в заключении . То есть реальный врач.
-
Существует ли вероятность того, что мои личные сведения станут известны в будущем?
Они способны проявиться в самых неожиданных местах. Как отмечает Елена Панина, ответственности за разглашение медицинской тайны нейросети не несут .
«Вся информация, появившаяся в сети, оказалась в руках злоумышленников. Это необходимо осознать. Медицинские организации несут ответственность, и персональные данные пациента не передаются производителям. Существует эффективный инструмент — анализатор. Данные из медучреждений проходят анализ, все персональные сведения удаляются, и они отправляются на сервер для обработки обезличенных исследований. Результаты исследования возвращаются, происходит обратный процесс, и к ним прикрепляется история болезни пациента. Таким образом, вы находитесь под защитой закона», — отмечает эксперт.
-
Даст второе мнение?
В ситуациях, когда посещение врача затруднено, будь то дефицит специалистов или желание получить дополнительное заключение, некоторые пользователи обращаются к DeepSeek и ChatGPT, загружая в них свои медицинские заключения. Способны ли эти инструменты оказать помощь? Возможно, однако степень достоверности полученных результатов остается неясной. По словам Елены Паниной, подобными методами пользуются люди, готовые к риску.
«Это весьма смелое решение. В настоящее время ни один производитель, имеющий регистрационное удостоверение, не работает на рынке B2C. Причина проста: это этический вопрос. Врач располагает историей болезни, результатами всех проведенных исследований, и на их основе выносит заключение. Таким образом, один и тот же узел может являться признаком онкологического заболевания или доброкачественной опухолью. […] Если же используется просто анализ крови, мочи, и какой-то снимок загружается в DeepSeek, на каком основании делается заключение? На основании какого-либо набора данных? — отмечает эксперт, подчеркивая необходимость разделения технологий, предназначенных для развлечений, и технологий, применяемых в реальной жизни: это разные направления и сценарии использования.
Заменит ли ИИ реальных врачей?
По мнению Елены Паниной, любая новая разработка в доказательной медицине проходит длительный процесс от первоначальной идеи до использования в клинической практике, включающий в себя масштабные клинические испытания, техническую экспертизу, регистрацию и другие этапы. Этот путь специалисты обозначают как пирамиду доказательности.
По утверждению кандидата медицинских наук, полная замена врачей искусственным интеллектом не состоится. Вместо этого, обычных врачей заменят специалисты, применяющие искусственный интеллект в своей деятельности.
Учитывая, что ощутимый дефицит медицинских работников сохраняется, данный вопрос, вероятно, остается в сфере предположений.
К слову
В 2020 году в Москве был запущен проект, направленный на применение искусственного интеллекта в лучевой диагностике. Изначально система использовалась в столичных поликлиниках, затем к ней подключились больницы, и теперь к проекту присоединяются регионы. На текущий момент в московском эксперименте участвуют 154 медицинские организации из разных регионов.
Искусственный интеллект помогает врачам-рентгенологам выявлять на медицинских изображениях, таких как маммограммы, компьютерная томография, магнитно-резонансная томография, рентгеновские снимки, признаки рака легкого, пневмонии, остеопороза, аневризмы аорты, ишемической болезни сердца, инсульта, легочной гипертензии и других заболеваний. На текущий момент, в рамках проведения эксперимента, нейросеть проанализировала свыше 16 миллионов исследований.
