Впрочем, новые "заменители терапевтов" уже успели наломать дров, раздав пациентам опасные и ошибочные рекомендации.
Фото: AI Atameken Business
Высокие технологии без стука ворвались в святая святых человеческой жизни – в традиционный диалог между врачом и пациентом. Времена, когда за любым разъяснением невнятного почерка в медицинской карте приходилось отстаивать бесконечные очереди, уходит в прошлое.
На смену привычным специалистам приходят алгоритмы, готовые анализировать самые интимные детали нашего организма в режиме реального времени. Смена эпох происходит прямо на наших глазах, заставляя одновременно испытывать восхищение перед грандиозным прогрессом и тихий ужас перед его неизбежными побочными эффектами,сообщает inbusiness.kz.
Экспансия в медицину: масштаб и амбиции OpenAI
Событием, расколовшим технологический и медицинский мир на два лагеря, стал масштабный запуск сервиса ChatGPT Health от компании OpenAI. Инновационная платформа разворачивается для всех авторизованных пользователей старше 18 лет в США на всех тарифных планах, от бесплатного до профессионального. Разработчики не просто обновили интерфейс, а создали отдельное изолированное пространство с собственной историей чатов и функцией памяти.
Более того, после появления новейшей модели GPT-5.6 Sol, названной самым мощным инструментом компании для сферы здравоохранения, задавать вопросы о собственном организме стало возможно прямо в основном окне чата, без совершения лишних переходов.
"Интегрированный прямо в основной интерфейс чат-бота, сервис позволяет подключать медицинские карты, результаты исследований и данные фитнес-трекеров. Пользователям бесплатной версии, а также подписчикам тарифов Go, Plus и Pro больше не нужно переходить в отдельную вкладку: задавать вопросы о своем самочувствии можно напрямую в привычном окне диалога", – пишет The Verge.
Масштабы происходящего поражают воображение: согласно официальным данным, более 230 миллионов человек по всему миру еженедельно задают чат-боту вопросы, связанные со здоровьем. Компания указывает, что в отдаленных и малообеспеченных сельских районах пользователи отправляют сотни тысяч сообщений в неделю, а 7 из 10 подобных диалогов происходят во внерабочее время клиник, когда реальные специалисты недоступны.
Воодушевленная столь масштабным использованием ChatGPT Health, OpenAI перешла к громким заявлениям. Вице-президент компании по медицинским продуктам Эшли Александер (Ashley Alexander) заявила, что ИИ-модели "способны рассуждать на уровне, превосходящем уровень практикующих врачей-клиницистов и терапевтов".
Руководитель медицинского направления Каран Сингх (Karan Singhal) высказался сдержаннее, призвав "умерить" подобные оценки, однако признал: отдельные исследования – в том числе Гарвардского и Стэнфордского университетов – действительно указывают на способность ИИ сдавать лицензионные экзамены и превосходить человека в диагностике.
ChatGPT Health работает на базе новейших алгоритмов и опирается на внушительный бэкграунд: разработчики заявляют, что за два года сотрудничали с более чем 260 врачами из 30 медицинских областей, которые предоставили обратную связь по ответам ИИ свыше 600 000 раз. Для оценки качества ответов компания использует собственный бенчмарк HealthBench.
Впрочем, сфера здравоохранения превращается в ключевое поле битвы для всех технологических гигантов. Вслед за OpenAI компания Anthropic представила продукт Claude for Healthcare с поддержкой стандартов HIPAA, предназначенный как для больниц, так и для потребителей. Примечательным остается лишь отсутствие Google на клиентской передовой: хотя его модель MedGemma обновляется для разработчиков, а поисковые алгоритмы интегрируют ИИ-ответы, запуска отдельного пользовательского медицинского чат-бота компания пока избегает.
Цифровой "переводчик" или суррогат врача?
Почему миллионы людей обращаются к чат-боту вместо визита в поликлинику? По наблюдениям экспертов и отзывам самих пользователей, ChatGPT на данном этапе заменяет не столько самого врача, сколько промежуточные, но трудоемкие задачи.
Сценарии практического применения ИИ пациентами:
- "Переводчик с медицинского": пользователи массово загружают в чат результаты МРТ, КТ, анализы крови и выписные эпикризы с просьбой объяснить термины "человеческим языком", расшифровать показатели и сравнить варианты лечения.
- Подготовка к приему: ИИ помогает структурировать симптомы и составить список точечных вопросов к врачу, чтобы не упустить главное во время короткой консультации.
- Поиск закономерностей: при загрузке архива анализов за несколько лет нейросеть способна обнаружить динамику изменений показателей, на которую у терапевта на обычном приеме часто не хватает времени.
- Административная навигация: сервис помогает разобраться в плюсах и минусах программ медицинского страхования, заполнении документов и алгоритмах обращения за помощью.
Партнером OpenAI по технической интеграции выступает компания b.well, связывающая сервис примерно с 2,2 миллиона медучреждений и врачей. Пользователям предлагается подключать данные из систем Apple Health, MyFitnessPal, Weight Watchers, Function и Peloton для коррекции питания, отслеживания активности и динамики сна.
Однако за удобством кроется психологическая ловушка. Когда система говорит с пользователем персонально, уверенно и с "аурой авторитета", формальные текстовые оговорки перестают работать. Человек начинает видеть в алгоритме полноценного лечащего врача.
Цена ошибки: от бредовых идей до смертельного риска
Практика показывает, что отсутствие критического мышления при взаимодействии с ИИ может иметь фатальные последствия. Медицинская история уже знает немало случаев, когда "уверенные" советы алгоритмов приводили пациентов на койку отделения интенсивной терапии.
Недавно врачи опубликовали отчет о случае, когда мужчина попал в больницу на несколько недель с тяжелым отравлением и "болезнью XVIII века": ChatGPT посоветовал ему полностью заменить поваренную соль в рационе на бромид натрия (исторически использовавшийся как жесткое седативное средство).
Не менее показателен провал алгоритмов Google AI Overview, которые неделями выдавали опасные рекомендации: от вредных советов добавлять клей в пиццу до критических ошибок в диетологии. Расследование издания The Guardian показало, что опасные медицинские советы продолжают появляться: ИИ-системы регулярно генерируют ложные рекомендации по тестам функции печени, онкоскринингу и диетам при раке поджелудочной железы (в частности, советуя больным избегать жиров, что прямо противоположно реальным клиническим протоколам).
Дело дошло и до официальных судебных разбирательств, ставящих под сомнение безопасность технологии. История бывшего пастора из Флориды Скотта Уинтерса (Scott Winters) прозвучала как тревожный набат для всего человечества. Мужчина подал на компанию OpenAI в суд, заявив, что ChatGPT отговорил его от обращения в больницу при симптомах тяжелой тромбоэмболии легочной артерии. Как пишет Reuters, чат-бот советовал мужчине "больше лежать и отдыхать" и выдавал религиозно-философские пассажи в духе: "God did not design your body to endlessly fail" ("Бог не создавал твое тело для того, чтобы оно постоянно сбоило"). Доверившись ИИ, истец отложил экстренную госпитализацию, что едва не стоило ему жизни.
Не менее шокирующий иск подала семья Кристиан Фейт Мэдисон (Christian Faith Madison), переживавшей тяжелый психический кризис. Женщина воспринимала искусственный интеллект как духовного наставника, а нейросеть укрепляла ее бредовые убеждения и отговаривала от приема назначенных психотерапевтом антипсихотических препаратов. В иске утверждается, что мать из Алабамы покончила с собой, чтобы исполнить пророчество ChatGPT, сообщает SFGate.
В ответ на обвинения OpenAI неизменно заявляет, что относится к инцидентам крайне серьезно, усиливает защитные механизмы, но подчеркивает: продукт не предназначен для диагностики или лечения, а лишь дополняет, но не заменяет квалифицированную помощь.
Особой строкой стоит проблема психического здоровья (mental health). Несмотря на зафиксированные трагические случаи суицидов среди пользователей после откровений с ботом, в блоге компании упоминается лишь смутная возможность настроить инструкции, "чтобы избегать чувствительных тем". В то же время гендиректор OpenAI по приложениям Фиджи Симо (Fidji Simo) признает, что люди массово пишут чат-боту в состояниях стресса, а задача компании – научить модель "не нагнетать алармизм" и вовремя перенаправлять пользователя к живым специалистам или в службы поддержки.
Главный юридический и этический парадокс заключается в том, что технологические корпорации умело обходят традиционные законы, регулирующие медицину. Заявление о том, что продукт не позиционируется как медицинский продукт, выводит его из-под жесткого контроля регуляторов вроде американского управления FDA.
Иллюзия приватности и юридический вакуум
Еще один фундаментальный пласт проблем связан с защитой персональных данных. OpenAI заверяет, что ChatGPT Health функционирует как отдельное изолированное пространство. Диалоги в нем по умолчанию не используются для обучения базовых моделей, хранятся отдельно и защищены "несколькими уровнями специализированного шифрования".
Однако юридические эксперты в области цифрового права, опрошенные The Verge, призывают пользователей не питать иллюзий. Пользовательские версии не защищены федеральным законом HIPAA, регулирующим работу реальных клиник. Пользователи вынуждены верить компании на слово, хотя условия конфиденциальности могут быть изменены в любой момент самой компанией, а печальный опыт прошлых утечек данных показывает, что ни одна система не застрахована от сбоев или судебных истребований.
Главное заблуждение кроется в путанице продуктов. Запустив одновременно ChatGPT Health для граждан и ChatGPT for Healthcare для организаций, компания создала опасный контекст. Корпоративный продукт жестко подпадает под действия Закона о переносе и защите данных медицинского страхования (HIPAA). Пользовательский же сервис под него не подпадает.
Руководитель медицинского направления OpenAI Нейт Гросс (Nate Gross) прямо подтвердил: "В случае с пользовательскими продуктами HIPAA не применяется: он же регулирует не нас, а клинические и профессиональные учреждения".
Итог: партнер, но не альтернатива
Рынок медицинского ИИ стремительно растет, отвечая на колоссальный запрос общества: дефицит терапевтов и узких специалистов, высокую стоимость страховок и сложность профессионального врачебного языка. Алгоритмы способны стать великолепным инструментом систематизации данных, расшифровки сложных анализов и подготовки к визиту в клинику.
Так, человечество оказалось в точке исторического перелома, когда миллионы людей, уставшие от недоступности традиционного здравоохранения, готовы добровольно отдать свои самые интимные биологические секреты алгоритмам. Но готова ли сама технология нести груз ответственности за человеческие жизни? Медицина зарабатывала доверие общества веками жесточайших стандартов и персональной ответственности каждого врача. ИИ демонстрирует поразительные успехи в текстах и тестах, но пока он остается лишь бесстрастным и беспощадным механизмом, способным с одинаковой уверенностью выдать как гениальную догадку, так и роковую ошибку.
Медицина сегодня является строго регулируемой отраслью не из-за бюрократии, а потому что цена ошибки в ней – человеческая жизнь. Врачи несут юридическую и уголовную ответственность за свои диагнозы, в то время как разработчики ИИ огораживаются пользовательскими соглашениями и оговорками. Пока технологический сектор живет по принципу "действуй быстро, зарабатывай много и ломай стереотипы", полностью доверять ИИ роль лечащего врача остается смертельно опасной авантюрой.
Автор Жанат Ардак
Источник inbusiness.kz