Мэри Гиббс, врач общей практики, работающая в нерабочие часы, написала, что рада публикации о проблемах, которые всё сильнее беспокоят её на работе. Речь идёт о материале «ИИ-секретари врачей неправильно записывают названия лекарств и диагнозы, предупреждает надзорный орган NHS» от 31 августа. У ИИ есть несколько проблем, прежде всего склонность неправильно понимать сказанное и противоречить самому себе. Это может быть опасно для пациентов, но Гиббс решила сосредоточиться на заявленной экономии времени.
Многие пациенты, которых она принимает, до этого уже проходят телефонную оценку у другого специалиста. Перед вызовом пациента врач обычно читает запись первичного разговора. Когда в ней использовали ИИ, у Гиббс «опускается сердце»: консультация почти всегда оказывается длинной, содержит повторы, а иногда и противоречия.
Нередко собранная ею история болезни заметно отличается от той, что указана в записи. Поэтому врач не может считать такой текст достоверным. По её словам, существенные ошибки встречаются в ИИ-консультациях намного чаще, чем в записях, набранных коллегами вручную.
Вину можно возложить на первого специалиста, однако любой, кто пытался вычитывать собственный текст, особенно в условиях нехватки времени, знает, как это трудно. Гиббс задаётся вопросом, каким образом такая система экономит время, если первый врач должен проверять длинное и повторяющееся описание, а второй не может доверять написанному и вынужден перепроверять его снова.
Кроме того, превращение часто сложной истории, рассказанной пациентом, в ясное описание, которое коллега сможет быстро понять, — навык, на освоение которого требуется время. Это подтвердит любой студент-медик. Если этот навык перестанут осваивать и поддерживать, потери понесут и врачи, и пациенты.
Мэри Гиббс, Манчестер.
Дебби Кэмерон также рассказала о личном опыте, связанном с риском ошибок при расшифровке диагнозов и назначений лекарств. Консультант, у которого она работала секретарём, в течение недели тестировал систему распознавания речи. От идеи пришлось отказаться, когда фраза «Я рекомендую принимать лансопразол две недели» превратилась в предложение провести двухнедельный отпуск на Лансароте.
Пациент, уверена Кэмерон, был бы такому назначению только рад.
Дебби Кэмерон, Формби, Мерсисайд.
Читайте также
ChatGPT отвоевал 55,5% веб-трафика, а камбэк Gemini сходит на нет
GPT-6 стала доступна в песочнице OpenAI
История с неуправляемым ИИ — не просто предупреждающий выстрел или рекламный трюк
Рабочие бастуют против гуманоидных роботов — и это лишь начало
«Недоверие» к Palantir может повлиять на исследования NHS — министр здравоохранения
В UBS навыки работы с ИИ стали обязательным условием при найме
Архитектор британской ИИ-политики ушёл после опасений конфликта интересов с Anthropic
Qwen-Drive 1.0 объясняет, почему тормозит, но её объяснения могут расходиться с манёврами
Как ИИ уничтожил целую индустрию в Найроби
Теперь этот робот возьмёт у вас кровь
Расходы бизнеса на ИИ: окупаемость не доказана
OpenAI сообщает об ИИ-«научных стажёрах» и предупреждает о собственном темпе
Дата-центр поймали на поливе роскошного газона, пока соседям ограничили полив на год
Извращенцы в отчаянии: Meta удалённо превращает их умные очки в кирпичи
Шептать жалобы в телефон — возможно, будущее отзывов клиентов
Дизайнерам не стоит бояться, что ИИ их заменит, считают лидеры отрасли
Авторы отбиваются: издатели и агенты претендуют на долю выплат Anthropic
Новая ИИ-зубная щётка Dyson ведёт видеонаблюдение у вас во рту
Стартап Трэвиса Каланика Atoms может выйти на рынок роботакси
Новый ИИ призван заменить генеральных директоров
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram