Цифровая медицина требует инженерной дисциплины

Городские IT-системы как первый большой опыт внедрения

В начале 2000-х мы делали одни из первых цифровых систем для городской среды. Например, московская карта учащегося — сейчас это кажется привычным, но тогда такие решения только появлялись. Мы стояли у истоков этих процессов.

Я руководил информационно-энергетическим центром потребительского рынка правительства Москвы. Мы занимались разработкой разных IT-решений для города, и многие из них реально работали. Это важный опыт: не просто написать программу, а довести ее до эксплуатации, поддержки, документации, развития и ответственности перед пользователями.

Потом наступил период стремительного развития искусственного интеллекта. Появились новые задачи, новые инструменты, новые возможности. Я увлекся языковыми моделями, начал работать с задачами извлечения информации, а один из проектов на патентных данных постепенно привёл меня к медицинским данным и цифровой медицине.

Почему доказательная медицина нуждается в ИИ

Один из проектов, с которого мы начинали работу в Сеченовском университете, связан с поиском фактов знаний доказательной медицины. В медицине нельзя просто сослаться на любой текст. Решения врача должны быть научно обоснованы, а доказательства имеют иерархию: рандомизированные контролируемые исследования, когортные исследования, метаанализы.

Проблема в масштабе. Биомедицинских знаний накоплено больше, чем, пожалуй, в любой другой предметной области. Только рецензируемых публикаций по медицинской и биомедицинской тематике ежедневно выходит порядка пятнадцати с половиной тысяч. Прочитать и обработать это вручную невозможно.

Сначала мы работали с контекстным поиском, мешками слов, тематическим моделированием, первыми векторными представлениями и эмбеддингами. Но медицина очень сложна для простого поиска по словам. Термины могут звучать странно для непосвященного человека, а смысл зависит от контекста. Когда появились трансформерные архитектуры и механизм внимания, стало возможно перейти от грубого поиска к более глубокому семантическому извлечению знаний.

RAG, эмбеддинги и медицинские знания

Мы сделали систему, которая позволяет искать документы по тематике, извлекать факты знаний, размечать именованные сущности, подключать дополнительные сервисы, делать суммаризацию. Для медицинской среды это принципиально: врач или исследователь должен получать не просто список ссылок, а структурированную информацию, связанную с доказательной базой.

Одним из важных шагов стало применение RAG-технологии: языковая модель подкрепляется знаниями, извлеченными из коллекции документов и векторного хранилища. Тогда это ещё не было словом, которое произносят на каждом докладе. Мы уже понимали, что просто большая языковая модель недостаточна: ее нужно связывать с источниками, фактами, медицинскими публикациями и конкретным контекстом.

Сегодня RAG уже всем понятен как идея, но он тоже не решает все автоматически. Его нужно правильно строить, диагностировать, улучшать, комбинировать с другими подходами. И именно здесь появляется настоящая научно-инженерная работа: не сказать «у нас ИИ», а построить систему, которая выдерживает медицинскую ответственность.

Мультиагенты как способ не утонуть в информации

Информации стало слишком много. Если по RAG-технологиям сделать запрос в технических источниках, можно получить тысячи документов. За один месяц появляются десятки публикаций. Прочитать это одному человеку невозможно.

Поэтому я начал собирать собственных мультиагентов. Они анализируют источники, извлекают главное, делают суммаризацию. Следующий шаг — превращать это в аудиофайл, чтобы можно было слушать в дороге и оставаться в теме. Это не игрушка. Это способ сохранить профессиональную актуальность в мире, где поток знаний стал слишком быстрым.

Но чем больше автономности мы отдаем системам, тем важнее вопрос контроля. Агент, который просто помогает искать статьи, — одно. Самообучающийся агент, который начинает действовать в сложной среде, — совсем другое. Здесь уже появляются риски, которые нельзя недооценивать.

Наставник, который научил точности

Одно из самых глубоких впечатлений в моей жизни произвел Сергей Михайлович Лозинский. Он читал нам линейную алгебру и аналитическую геометрию. Это был выдающийся учёный и удивительный человек с настоящим математическим складом ума.

Я помню историю с экзаменом. Студенты спросили его, правда ли, что он может поставить неудовлетворительную оценку за неправильно написанную букву или цифру. И он ответил математически точно: да, могу, но никогда этого не делаю. Меня поразила сама точность ответа. Его спросили «можете?» — он ответил на этот вопрос. Если бы спросили «ставите?», ответ был бы другим.

С тех пор я очень хорошо понимаю, что математика — это не только формулы. Это культура вопроса, культура точности, культура различения смысла. То же самое сегодня происходит с языковыми моделями: что ты спросил, ровно на то они и отвечают. Если вопрос поставлен неточно, результат тоже будет неточным.

Команда: нам не нужны считалки

Мотивация команды — одна из ключевых задач для успешной работы. Мы стараемся строить команду из студентов. К нам есть серьёзный конкурс, потому что лаборатория цифровых медицинских сервисов искусственного интеллекта работает с реальными задачами, а не с учебными имитациями.

Мы используем жесткие ITSM-подходы. Есть роли и функции: постановка задач, анализ бизнес-процессов, фронтенд, бэкенд, сборка, DevOps, тестирование. Мы фиксируем задачи, документацию, сроки, отчетность. Раньше работали в Jira, сейчас переехали в Яндекс.Трекер, и он нас устраивает.

Когда молодой человек приходит к нам, мы сразу говорим: нам не нужны считалки. Программа — это не просто кусок кода, который у тебя запустился на компьютере. Программа — это информационная система, которая стоит в промышленной эксплуатации, поддерживается, документируется, развивается и отвечает перед реальными пользователями.

Студентам нельзя запрещать нейросети

Я считаю, что студентам нельзя запрещать использовать генеративные модели. Это бессмысленно и вредно. Нужно учить их правильно пользоваться этими инструментами, понимать ограничения, видеть галлюцинации, проверять результаты и не подменять обучение имитацией.

У меня есть внучка, и я научил ее пользоваться языковой моделью. Она во втором классе, использует ее для генерации рассказов и картинок. Можно выставить температуру выше, чтобы начались галлюцинации, и получить фантастический сюжет: девочка с красными волосами ходит по Луне. Получаются великолепные рассказы и картинки. Но главное — ребенок начинает понимать, что с помощью технологии можно делать хорошие вещи.

Ограничения нужны, но запрет не работает. Важно дозировать, объяснять, показывать, где инструмент помогает, а где опасен. В образовании ключевой навык — не спрятать ИИ от студента, а научить студента видеть, что он делает с помощью ИИ.

Наука, технологические компании и деньги

Сегодня многие технологические компании фактически становятся научными компаниями. В медицине почти каждый серьёзный IT-доклад уже связан с искусственным интеллектом: RAG, эмбеддинги, поисковые сервисы, агенты, трансформеры, базы знаний. Молодые ребята руками трогают то, чем занимается современная наука.

Но без материального стимулирования эту систему не удержать. Учёные, если занимаются только наукой, часто живут небогато. Если их работа имеет прикладной характер и связана с заказами, проектами, фармкомпаниями, медицинскими компаниями, фондами, это позволяет содержать команду и делать реальные вещи.

При этом гранты и поддержка государства важны, но есть проблема отчетности. Иногда отчетов так много, что нужны отдельные люди, которые будут только их писать. Нужен баланс: деньги и контроль должны помогать науке, а не забирать у нее силы.

Будущее: квантовые вычисления, агенты и осторожность

Я не очень люблю уверенный футуризм. Когда слушаешь людей, которые точно знают, что будет через десять лет, хочется спросить: откуда вы это знаете? Технологии развиваются слишком быстро и слишком нелинейно. Ещё недавно распознавание номеров на камерах казалось сложной магией, а теперь студенты на первой лекции по нейронным сетям через полчаса обучают простые модели распознавать цифры и буквы.

Мне кажется, что в искусственном интеллекте мы долго задержались на трансформерах. Механизм внимания был известен и раньше, но архитектура трансформера изменила весь мир. Теперь должно появиться что-то новое — новые подходы, новые архитектуры, возможно, иной вычислительный фундамент.

Я очень рассчитываю на прорыв в квантовых вычислениях. Если поменяется сама вычислительная парадигма, если мы уйдем от ограничений нуля и единицы, может произойти качественный скачок. Но вместе с этим будут развиваться беспилотники, робототехника, мультимодальные системы, персональные ассистенты, решения на протоколах взаимодействия моделей с контекстом.

И здесь я с опаской отношусь к искусственному интеллекту. Самообучающиеся агенты могут в процессе обучения прийти не только к тому, чему мы хотели их научить. Если агент диагностирует заболевания, а потом замечает, что в одни периоды его выключают, кто знает, какие связи он построит? Это звучит как сюжет фантастики, но именно поэтому к автономным системам нужно относиться очень осторожно.

Как я восстанавливаюсь

У меня много способов переключения. Зимой я катаюсь на лыжах, гуляю с собакой. Я живу за городом, и у меня каждый день есть возможность вернуться из московского ритма в нормальное экологическое окружение: лес, воздух, прогулки. В этом смысле отдых у меня есть почти каждый день.

Когда был моложе, занимался плаванием; сейчас тоже люблю поплавать в открытой воде, например в Сириусе, в Сочи. Люблю пройтись с семьей по набережной, сходить в театр, посмотреть балет. Это простые вещи, но они действительно возвращают силы.

Свободного времени мало, и хочется больше отдавать семье. Но внутри все равно остается профессиональный интерес: вот это интересно, вот это тоже интересно. Поэтому я благодарен семье за понимание, когда в выходные я сижу в кабинете и занимаюсь своими вопросами. Мы просто работаем, трудимся, и у нас получается.