Женщина из Бразилии умерла после того, как система управления больницей на основе искусственного интеллекта (ИИ) решила, что она не нуждается в жизненно важном лечении, и отложила её перевод в отделение интенсивной терапии, - пишет Slaynews.
Это вызвало тревогу по поводу растущей роли ИИ в принятии медицинских решений, от которых зависит жизнь и смерть пациентов.
Этот трагический случай вызывает опасения, что алгоритмы всё чаще берут верх над решениями врачей, а пациенты расплачиваются за это своей жизнью.
Тридцатидвухлетняя Ребека Кардосо Тененте Молина умерла после того, как пять дней ждала места в отделении интенсивной терапии, в то время как её состояние стремительно ухудшалось.
Вместо того чтобы лечить женщину, врачи предоставили нейросети решать, жить Молине или умереть.
Компьютерная программа решила, что Молина не является приоритетным пациентом, и отложила её экстренную госпитализацию.
Семья винит в смерти больничную систему, управляемую нейросеитью
Молина изначально была госпитализирована в Сан-Жуан-Непомусену после обращения за помощью в связи с желчнокаменной болезнью.
Когда состояние Молины ухудшилось, врачи попытались перевести её в отделение интенсивной терапии в Оливейре, что примерно в 300 километрах от больницы.
Однако, несмотря на критическое состояние пациентки, система ИИ заблокировала запрос, и перевод так и не состоялся.
По данным бразильского издания MG1, родственники Молины даже обратились в суд, пытаясь добиться её перевода, но добиться немедленного лечения не удалось.
Адвокат Самела Кардозу Тененте Фуртадо, утверждает, что ключевую роль в роковой задержке сыграла государственная система ИИ. При этом врачи утратили самостоятельность в принятии решения о том, насколько серьезно болен пациент.
По словам Фуртадо, система постоянно отклоняла попытки повысить уровень приоритетности лечения Молины, несмотря на всё более явные признаки ухудшения её состояния.
Этот случай свидетельствует о растущей опасности в том, что бюрократические структуры в сфере здравоохранения при распределении ограниченных медицинских ресурсов всё больше полагаются на алгоритмы, а не на врачей.
Эксперты предупреждают, что системы искусственного интеллекта внедряются в критически важные отрасли до того, как будут полностью изучены их реальные последствия.
Сторонники ИИ утверждают, что он может повысить эффективность работы и снизить административную нагрузку, но критики предупреждают, что автоматизированное принятие решений может привести к опасным последствиям, если не учитывать человеческий фактор.
Они считают, что алгоритм ошибся, что повлекло за собой смерть молодой женщины.
После этого вопиющего случая всё чаще возникают вопросы о том, стоит ли вообще позволять ИИ принимать решения, от которых зависит, кто получит жизненно необходимую помощь, а кто нет.
Интересный канал "Вместо блумберга"
Забавный канал "Смешные картинки"
Комментарии