GlucoFM: базовая модель для непрерывного мониторинга глюкозы

Обзорная схема фреймворка GlucoFM, подробно показывающая предварительную обработку данных, архитектуру предобучения в стиле JEPA и приложения для клинического прогнозирования

Источник: research.google

Потребительские носимые устройства используют датчики движения и физиологических показателей, чтобы оценивать активность и сон. Однако по этим сигналам можно лишь косвенно судить о регуляции уровня глюкозы. Непрерывные мониторы глюкозы, или CGM, дополняют такие измерения: небольшой сенсор под кожей фиксирует уровень глюкозы в межклеточной жидкости каждые несколько минут, включая показатели натощак, ночью и после еды.

Интерпретировать такие записи сложно. Клинические метки, которые помогают связать наблюдаемые графики с состоянием здоровья, часто бывают дорогими и их мало.

Существующие базовые модели для CGM, включая CGMformer, GluFormer и CGM-JEPA, обычно обрабатывают данные через один поток представлений. Они не разделяют явно медленный базовый уровень и кратковременную динамику событий. Между тем запись CGM состоит из относительно плавных изменений, на которые накладываются короткие отклонения. Их причиной могут быть еда, физическая активность или артефакты сенсора.

GlucoFM создавали как самообучаемую базовую модель с архитектурой из двух потоков. Один поток выделяет медленные тренды глюкозы, второй — кратковременные отклонения. При этом модель сохраняет сведения о времени суток и пропусках, а задачи предсказания скрытых представлений помогают ей выучить суточный контекст и временную динамику.

Исследователи проверили GlucoFM на четырёх когортах и семи клинических задачах: оценке риска диабета, инсулинорезистентности, дисфункции бета-клеток, гиперлипидемии, гипогликемии, ожирении и глюкотипе. Всего получилось 14 сочетаний «когорта — задача».

В среднем PR-AUC GlucoFM оказался на 5,8 процентного пункта выше, чем у лучшей протестированной версии GluFormer. Обе модели предварительно обучались на одном и том же наборе данных. GlucoFM лидировала во всех оценках риска диабета и дисфункции бета-клеток, а также в трёх из четырёх оценок инсулинорезистентности.

Отдельно модель проверили на прогнозировании постпрандиальной реакции глюкозы. При одинаковых входных данных и протоколах оценки GlucoFM показала наименьшую среднюю абсолютную ошибку — MAE — для двух устройств CGM: Dexcom и Libre. Кроме того, модель лучше переносила знания между наборами данных и эффективно адаптировалась в режиме малых выборок, когда новая когорта или размеченные участники представлены в крайне ограниченном количестве.

Как обучали GlucoFM

Для предварительного обучения использовали 109 066 часов неразмеченных данных CGM из Wear-CGM и четырёх опубликованных наборов данных. Всего в них вошли 477 записей участников и сессий.

Записи CGM могут содержать пропуски, разные интервалы между измерениями и артефакты сенсоров. GlucoFM приводит каждую запись к 24-часовой сетке с шагом пять минут и сохраняет маску наблюдений, чтобы отличать измеренные значения от отсутствующих.

Двухпоточный кодировщик разделяет сигнал на низкочастотный компонент состояния, описывающий медленные тренды глюкозы, и остаточный компонент событий, который отражает кратковременные отклонения. Такие изменения могут быть связаны с физиологией, поведением или ошибками сенсора.

Вместо восстановления точных исходных значений глюкозы, на которые могут влиять шум измерений и артефакты, GlucoFM использует предварительное обучение с предсказанием скрытых представлений и двумя взаимодополняющими задачами.

В модель также добавили специальные для CGM искажения: дрейф базового уровня, имитацию сжатия падения сигнала, более редкую дискретизацию и короткие разрывы связи. Благодаря этому GlucoFM видит вариативность и пропуски, характерные для реальных записей.

Радарная диаграмма линейного зондирования, показывающая, что GlucoFM превосходит четыре базовые модели в шести категориях оценки метаболического здоровья

Источник: research.google

Клинические задачи

Модель оценивали на четырёх когортах — CGMacros, Stanford, Hall и ShanghaiT2DM — и семи клинических задачах. Отдельно проверяли прогноз двухчасовой постпрандиальной реакции глюкозы.

Исследователи выясняли, насколько информативны замороженные представления для отдельных 24-часовых окон у новых участников, помогают ли они учитывать исторический контекст при прогнозировании траектории глюкозы после еды, улучшается ли результат при объединении нескольких дней, переносятся ли представления между когортами и насколько хорошо модель работает при небольшом числе размеченных данных.

Сначала применили линейное зондирование на уровне окон с разделением участников. Кодировщик каждой модели замораживали, а на отдельных 24-часовых представлениях обучали линейный классификатор. Один и тот же участник не мог попасть одновременно в обучающую и тестовую части. Такой протокол проверяет, насколько представление одного дня отражает фенотип нового участника и при этом сохраняет различия между днями.

GlucoFM получила лучший усреднённый по задачам PR-AUC среди проверенных методов. В 14 оценках для разных когорт и задач средний показатель вырос с 54,7 у наиболее сильной специализированной модели CGM, переобученной на тех же данных, до 58,8. Это абсолютный прирост на 4,1 пункта, или примерно на 7,5% относительно базовой модели.

Максимальный PR-AUC GlucoFM показала во всех оценках риска диабета и дисфункции бета-клеток, а также в трёх из четырёх оценок инсулинорезистентности.

Прогноз реакции после еды

Чтобы проверить модель на динамической задаче, исследователи использовали сведения, доступные до каждой зафиксированной еды, и предсказывали полную двухчасовую траекторию изменения глюкозы относительно значения в начале приёма пищи.

В анализ вошли 874 связанных эпизода еды у 34 участников. Использовали перекрёстную проверку с разделением участников. Данные с устройств Dexcom и Libre обрабатывали отдельно при одинаковом разделении выборок.

Для каждого замороженного представления постепенно добавляли контекст: один час измерений CGM до еды, пищевую ценность приёма пищи — энергию, углеводы, жиры, белки и пищевые волокна — и сведения об участнике, включая глюкозу натощак, индекс массы тела и наличие диабета.

При полном наборе данных GlucoFM показала наименьшую среднюю MAE — 21,88 мг/дл. У лучшей базовой модели показатель составил 22,90 мг/дл, а у базовой линии со средним значением обучающей части — 27,69 мг/дл. По этим результатам исследователи заключили, что представления GlucoFM добавляют полезный исторический контекст для прогноза изменений глюкозы после еды.

Линейный график, демонстрирующий, что GlucoFM достигает наименьшей средней абсолютной ошибки по мере добавления переменных контекста

Источник: research.google

Объединение нескольких дней

Одной 24-часовой записи может быть недостаточно, чтобы увидеть индивидуальные особенности уровня глюкозы. Поэтому исследователи проверили, улучшает ли прогноз объединение нескольких дней.

GlucoFM кодировала каждый день отдельно, после чего представления усреднялись для периода до семи дней. Каждый участник имел одинаковый вес при таком объединении.

Добавление новых дней повышало PR-AUC в большинстве настроек и наборов данных. Например, прирост составил 9,6 пункта для задачи дисфункции бета-клеток в когорте Stanford и 14,0 пункта для прогноза диабета в Hall.

В CGMacros прирост в основном наблюдался для данных Dexcom, Libre и объединённых данных с обоих сенсоров. Главным исключением стала инсулинорезистентность в ShanghaiT2DM при простом усреднении: это указывает, что оптимальный способ объединения данных может зависеть от задачи.

В целом замороженные дневные представления GlucoFM можно объединять для улучшения прогнозов на уровне участника без повторного обучения кодировщика.

Столбчатые диаграммы, показывающие улучшение показателей PR-AUC на нескольких дневных интервалах в шести различных клинических наборах данных

Источник: research.google

Перенос между когортами

Затем исследователи проверили, обобщаются ли физиологические закономерности, которые выучила модель. Для этого классификатор риска диабета обучали на данных одной клинической когорты и проверяли на участниках из другой.

В эксперименте сравнивали прямое преимущество GlucoFM над второй по результату моделью при переносе между наборами данных для задач риска диабета и инсулинорезистентности.

GlucoFM опередила сильнейший конкурирующий метод в 11 из 12 оценок. Преимущество составило от 0,5 до 8,6 пункта PR-AUC. В одной оценке модель уступила 0,6 пункта.

Абсолютный PR-AUC находился в диапазоне от 61,6% для обеих задач переноса Stanford → Hall до 90,0% для задачи инсулинорезистентности Hall → CGMacros. По словам исследователей, это показывает, что замороженные представления могут отвлекаться от специфического для когорты шума и выделять общие метаболические закономерности.

Столбчатая диаграмма, показывающая процентное улучшение модели в сценариях переноса без примеров между наборами данных разных когорт

Источник: research.google

Адаптация на малом числе данных

Размеченные клинические данные дороги, поэтому GlucoFM также проверили в двух режимах обучения на малых выборках. В первом меняли число размеченных участников на класс, во втором — долю доступных наблюдений для каждого участника. При движении вправо объём размеченных данных увеличивался, а более высокие точки означали лучший усреднённый по задачам PR-AUC.

Маркеры GlucoFM находились выше результатов остальных моделей при каждом проверенном объёме данных. Это включало самые ограниченные условия: по одному участнику на класс и доступность лишь 1% наблюдений.

Преимущество особенно заметно при небольшом числе размеченных участников: модель эффективно выделяла нужные сигналы даже по нескольким примерам.

Две столбчатые диаграммы, показывающие стабильно более высокие средние показатели PR-AUC GlucoFM при обучении на малом количестве примеров по сравнению с конкурирующими моделями

Источник: research.google

Зачем нужны два потока

Исследователи отдельно проверили, действительно ли разделение сигнала на два потока влияет на результат. Полную двухпоточную архитектуру сравнили с более простыми вариантами: один напрямую обрабатывал исходные значения глюкозы, другой был ориентирован на медленные тренды, а третий — на быстрые кратковременные отклонения.

Вариант, использовавший только события, оказался худшим. Одних кратковременных колебаний недостаточно для устойчивого описания метаболического состояния. Модели с исходным входом и только компонентом состояния показали сопоставимые результаты, но полная двухпоточная версия стабильно занимала первое место.

Полученные данные поддерживают разделение медленной и быстрой динамики глюкозы на взаимодополняющие потоки с последующим объединением представлений.

Столбчатая диаграмма, сравнивающая методы подачи входных данных и показывающая, что предложенный двухпоточный подход достигает наиболее высоких средних показателей по трём различным метрикам

Источник: research.google

Вывод

Результаты показывают, что моделям CGM полезно учитывать многоуровневую структуру динамики глюкозы: медленные тренды, кратковременные отклонения, время суток и пропуски в данных.

GlucoFM извлекала повторно используемые закономерности из неразмеченных записей CGM и показывала хорошие результаты в задачах прогнозирования, переноса между наборами данных и адаптации на малом числе примеров. Такой подход позволяет эффективнее использовать ограниченные объёмы размеченных клинических данных.

Метаболические реакции различаются между людьми, когортами и устройствами CGM, а нынешняя выборка для предварительного обучения остаётся небольшой. В дальнейшем исследователи планируют обучать GlucoFM на более крупных и разнообразных группах, а также перейти от независимой обработки 24-часовых окон к нативному моделированию нескольких дней. Это должно помочь учитывать тренды, развивающиеся в течение недель и месяцев, и изучить работу представлений при изменениях в реальном времени.

В работе участвовали Zechen Li, Keerthana Natarajan, Weizhi Zhang, Simon A. Lee, Yuwei Zhang, Maxwell A Xu, Menglian Zhou, Zeinab Esmaeilpour, Flora D. Salim из University of New South Wales, Mark Malhotra, Lindsey Sunden, Shwetak Patel, Yuzhe Yang и Ahmed A. Metwally.

Bobak J. Mortazavi и Ricardo Gutierrez-Osuna из Texas A&M University предоставили набор данных CGMacros.

Два исследования Wear-CGM получили одобрение Advarra: номера IRB Pro00059582 и Pro00069880. Участники письменно согласились на обезличенное вторичное исследование и разработку алгоритмов. Опубликованные наборы данных собирались в соответствии с собственными этическими разрешениями и процедурами получения согласия.