Ученые из Балтийского центра нейротехнологий и искусственного
интеллекта Балтийского федерального университета (БФУ) им. И. Канта
и Национального медико-хирургического Центра имени Н. И. Пирогова
Минздрава РФ предложили способ устранения проблемы доверия пациентов
результатам работы искусственного интеллекта (ИИ) в медицине.
«Известно, что «хороший врач лечит болезнь, а великий врач лечит пациента, у которого есть болезнь». Отношения между врачом и пациентом основаны на общении и доверии. Без объяснимого с медицинской точки зрения ИИ врачу будет практически нечего сообщить пациенту, что приведет к потере доверия и удовлетворенности пациента. Прозрачность логики, которая может быть реализована через дополненный ассистирующий искусственный интеллект, может расширить возможности врачей, не лишая их самостоятельности, что может открыть дверь для более широкого использования ИИ в здравоохранении», — приводит пресс-служба слова научного руководителя Балтийского центра нейротехнологий и искусственного интеллекта БФУ Александра Храмова.
Ученый напомнил, что во многих случаях используется ИИ, который не позволяет восстановить путь получения им решения из-за большого числа вычислительных элементов и сложной архитектуры системы. «Повышение интерпретируемости в общем случае будет вызывать упрощение моделей и стоить их эффективности, так что "игра не будет стоит свеч», — отметил он. Но если выдаваемое искусственным интеллектом решение касается здоровья и жизни человека, например, является диагнозом, то врач не может объяснить больному, как он получен. Данное обстоятельство вызвало дискуссию о том, должна ли логика, лежащая в основе ИИ, быть понятной врачу и пациенту. Храмов рассказал об опыте, описанном в ведущем научном журнале по медицине NatureMedicine, который хорошо иллюстрирует проблемы. Участникам одной из конференций был задан вопрос у кого они предпочли бы оперироваться в случае рака — у человека с вероятностью летального исхода 15% или у робота с летальностью 2%, но «с оговоркой, что никто не знает, как работает робот, и ему нельзя задавать вопросы». Все присутствующие, кроме одного, предпочли человека.
При этом, подчеркнул научный руководитель Балтийского центра нейротехнологий и искусственного интеллекта БФУ, «возможности технологий ИИ по распознаванию сложных моделей и скрытых структур позволили многим системам обнаружения и диагностики на основе изображений в здравоохранении работать не хуже, а в некоторых случаях и лучше врачей».
Устранить противоречие может использование программ ИИ в качестве ассистентов и систем поддержки принятия решений врачом. Такая программа была разработана в рамках проекта по созданию ассистирующей системы для врача-эпилептолога. Клинической базой стал Пироговский центр, где медицинской составляющей руководит директор центра, член-корреспондент РАН Олег Карпов при активном участии в проекте заведующего отделением нейрохирургии Андрея Зуева и врача-невролога Никиты Утяшева, а математическое описание сложных нестационарных сигналов ЭЭГ с эпилептическими разрядами и разработкой системы ИИ для их выделения делали в Балтийском центре нейротехнологий и искусственного интеллекта БФУ. Участниками проекта также являются профессор, лауреат Премии президента РФ для молодых ученых 2021 г. Владимир Максименко и старший научный сотрудник Вадим Грубов.
Технология ИИ, ассистирующая врачу
Задачей ученых стало создание системы ИИ, которая позволяла бы разметить многодневные записи мониторинга мозга для диагностики эпилептических приступов при условиях записей низкого качества, различного оборудования, используемого для регистрации и т.д. Обычно такие данные анализирует непосредственно врач-эпилептолог, и их рутинная расшифровка может занимать от нескольких часов до целого рабочего дня, сообщил Храмов.
«Мы предположили, что редкость эпилептических приступов может стать важной особенностью нашей системы, и пошли нестандартным путем. Мы не стали использовать классическую систему обучения ИИ с учителем, когда по ранее размеченным данным мы обучали нейронную сеть на выявление подобных событий. Наоборот, мы применили подход классификации без учителя и выделили физиологические особенности приступа. <...> В результате мы получили систему, которая не зависела ни от оборудования, ни от условий регистрации сигналов, потому что классификатор «работал» отдельно с каждой индивидуальной записью пациента», — сообщил ученый.
Не все выделенные эпизоды свидетельствовали о реальном приступе эпилепсии, но ИИ позволял снизить число сигналов о возможных приступах до примерно двух десятков для четырехсуточной записи мониторинга пациента. Далее врач-эпилептолог рассматривал только эти события и выделял те, которые являлись приступами. Время рутинной работы врача сократилось до 5-10 минут.
«Мы получили полностью прозрачный ИИ за счет объединения возможностей ИИ сузить количество «подозрительных» участков записи, которые, вероятно, могли содержать эпилептические приступы, и последующей интерпретации этих данных естественным интеллектом врача."Симбиоз" ИИ и врача оказался весьма успешным, и система внедряется в клиническую практику <…>. Итак, ассистирующие врачу технологии ИИ позволяют решить ряд проблем прозрачного ИИ», — сказал Храмов.Источник: БФУ им. И. Канта
