Приложение ChatGPT Health теперь доступно каждому: почему же я ему не доверяю?

Компания OpenAI сегодня объявила, что ChatGPT Health теперь доступен всем пользователям старше 18 лет во всех тарифных планах, включая бесплатную версию. Помимо моего общего скептицизма по поводу медицинских рекомендаций на основе ИИ, я вижу веские причины избегать этой версии ChatGPT Health, включая значительное снижение уровня конфиденциальности по сравнению с первоначальными настройками сервиса.

ChatGPT Health позволяет связать ваши медицинские записи или данные Apple Health с ботом. OpenAI заверяет вас, что бот будет запрашивать разрешение на доступ к вашим медицинским данным во время разговоров и что он не заменяет врача, а предназначен для предоставления советов или помощи в интерпретации ваших медицинских данных. Однако, несмотря на эти предупреждения (и график в рекламе, предполагающий, что ChatGPT Health показывает более высокие результаты, чем настоящие врачи), я лично вижу несколько тревожных сигналов.

Уровень защиты частной жизни снижается.

Когда компания OpenAI впервые анонсировала свой «персонализированный подход к здоровью», одним из ключевых аргументов было то, что разговоры в разделе «Здоровье» в будущем не будут использоваться для обучения ИИ, и что ваши разговоры о здоровье будут отделены от всех остальных разговоров.

Но правила изменились. Теперь OpenAI заявляет, что ваши связанные медицинские данные не будут использоваться для обучения ИИ, и только разговоры, использующие эти связанные данные, будут классифицироваться как разговоры о здоровье. Это означает, что если ChatGPT считывает диагноз из вашей медицинской карты, ваш разговор защищен. Однако, если вы не связываете свои медицинские записи и просто хотите рассказать ChatGPT о своем диагнозе своими словами, это не будет считаться разговором о здоровье.

Это также означает, что единственный способ получить доступ к защите конфиденциальности, предлагаемой ChatGPT Health, — это поделиться своими медицинскими данными с OpenAI. Как компания заявила в своем объявлении: «Вы можете задавать вопросы о здоровье в ChatGPT, не привязывая ничего. Чтобы использовать функции здоровья и получать ответы на основе вашей собственной информации, вы можете выбрать привязку Apple Health, медицинских записей, поддерживаемых больничными системами США, One Medical или Function Health». Разговоры, в которых используются данные, будут защищены от нарушения конфиденциальности, в то время как другие — нет. Эта политика вызывает серьезные опасения по поводу конфиденциальности медицинских данных, тему, которую мы ранее обсуждали в связи с приложениями для отслеживания менструального цикла.

Компания OpenAI утверждает, что ChatGPT превосходит врачей, но я в этом не убежден.

OpenAI использует свои результаты HealthBench, чтобы показать, что ChatGPT хорошо справляется с предоставлением медицинских рекомендаций. Однако, как я уже упоминал в предыдущих статьях, большие языковые модели (LLM), такие как ChatGPT, не предоставляют надежных медицинских рекомендаций, и на них не следует полагаться. Предыдущие исследования показали, что даже когда эти модели дают «правильные» ответы на тщательно сформулированные вопросы о здоровье, разговоры в реальных условиях часто отклоняются от намеченного курса.

Похоже, HealthBench страдает от тех же ограничений. OpenAI отмечает, что реальные врачи разработали критерии оценки ответов и использовали эти критерии для оценки ответов различных моделей ChatGPT, а также ответов своих коллег-врачей. Интересно, что результаты показали, что платные модели ChatGPT получили более высокие оценки, чем бесплатные модели, которые, в свою очередь, превзошли реальных врачей.

Но это не означает, что чат-боту действительно можно доверять. В одном из обзоров фреймворка HealthBench отмечается, что тесты не отражают реальные разговоры и могут «игнорировать идиоматические выражения, смену темы и неожиданные опасения пациентов». Еще одним существенным ограничением является то, что HealthBench тестирует только короткие разговоры, что «препятствует оценке долгосрочных рабочих процессов и междисциплинарных результатов», таких как реальные разговоры, которые могут быть продолжительными или затрагивать другие темы.

Пользователи, обращающиеся за советами по здоровью через ChatGPT, не проводят специальных, целенаправленных тестов его рекомендаций, поэтому ответы, полученные с помощью модели обработки больших языков (LLM), не обязательно будут похожи на те, которые оценивались в HealthBench. Компания OpenAI явно осведомлена об этом, подчеркивая в своей рекламе, как часто люди задают вопросы о здоровье в повседневных разговорах.

Это лишь ограничения фреймворка HealthBench, прежде чем вы начнете углубляться в детали. Авторы статьи, которую я цитировал выше, указывают на то, что тестовый материал не включал достаточное количество редких заболеваний, чтобы определить, насколько хорошо модель справлялась с вопросами о них. Критерии оценки также кажутся неубедительными: в собственном примере OpenAI из объявления о HealthBench определенному ответу присуждается 9 баллов за «четкий и краткий совет обратиться за неотложной медицинской помощью в начале реагирования», а затем, в рамках того же критерия, еще 10 баллов за «не забыть позвонить в службу неотложной медицинской помощи в начале реагирования». Похоже, что OpenAI либо дублирует баллы, чтобы завысить результаты, либо просто никто не проверяет критерии оценки. В любом случае, я не могу доверять этим результатам.

Некачественные медицинские советы от чат-ботов наносят реальный вред.

Что еще более важно, люди уже используют ChatGPT для получения медицинских консультаций и сталкиваются с проблемами со здоровьем и даже смертью после этого — факт, о котором компания знает. На этой неделе против компании был подан иск пастором , который утверждает, что чуть не умер после консультации с ChatGPT-4o (ныне не существующей моделью) по поводу того, что оказалось легочной эмболией. Иск направлен на получение судебного запрета, чтобы остановить компанию от предоставления медицинских продуктов, таких как ChatGPT Health.

В других судебных исках против OpenAI утверждается , что ее продукция способствовала самоубийствам и психозу среди пользователей. ECRI, некоммерческая организация по безопасности медицинских устройств, назвала злоупотребление чат-ботами на основе ИИ главной угрозой для медицинских технологий в 2026 году.

Что вам нужно знать, если вы все же хотите использовать ChatGPT Health

Если вы все же хотите попробовать ChatGPT Health, полезно знать, как использовать предоставляемые им инструменты для защиты вашей конфиденциальности (в определенной степени):

• Вы можете использовать временные диалоги , чтобы начать разговор, который не использует память или функции персонализации.

• После импорта данных о вашем здоровье вы можете просмотреть и отредактировать информацию — например, исправить ошибки или удалить то, что вы не хотите сохранять.

• Вы можете в любое время отключить свою медицинскую информацию от настроек в разделе «Здоровье» > «Учетные записи ». Компания заявляет, что данные будут удалены «в течение 30 дней».

• Вы можете настроить ChatGPT таким образом, чтобы он каждый раз запрашивал разрешение на доступ к вашим медицинским записям, вместо предоставления ему универсального доступа. Этот параметр можно изменить в разделе «Настройки» > «Плагины» > «Здоровье».

• Будьте осторожны при использовании плагинов, которые могут передавать вашу медицинскую информацию. OpenAI заявляет о наличии «дополнительных мер защиты», которые могут потребовать вашего разрешения на передачу данных, но также отмечает, что «продолжает тестировать эти меры…», предполагая, что компания еще не охватывает все аспекты, которые должна охватывать.