Исследователи предупреждают, что искусственный интеллект в сфере здравоохранения может усугубить этнические и доходные неравенства.
Researchers warn that AI in healthcare can exacerbate ethnic and income inequalities.
Ученые опасаются, что использование моделей искусственного интеллекта, таких как ChatGPT, в области здравоохранения будет усиливать неравенство.
Эпидемиологи из университетов Кембриджа и Лестера предупреждают, что большие языковые модели (LLM) могут укреплять неравенства для этнических меньшинств и стран с низким уровнем дохода.
Их озабоченность вызвана системными ошибками данных. Модели искусственного интеллекта, используемые в здравоохранении, обучаются на информации из веб-сайтов и научной литературы. Но данные показывают, что информация о этнической принадлежности часто отсутствует в этих источниках.
В результате инструменты искусственного интеллекта могут быть менее точными для недостаточно представленных групп. Это может привести к неэффективным рекомендациям по лекарствам или расистским медицинским советам.
«Признано, что существует различный риск для лиц этнических меньшинств во многих группах заболеваний», – говорят исследователи в своей научной статье.
- Оптоволокно может стать решением проблемы потери воды из протекающи...
- Гетир распродает оборудование, ищет финансирование в условиях финан...
- Threads добавляет множество новых функций в первом значимом обновле...
«Если опубликованная литература уже содержит предубеждения и меньшую точность, то логично, что будущие модели искусственного интеллекта будут поддерживать и усиливать их».
Ученые также озабочены угрозой для стран с низким и средним уровнем дохода (СНС). Модели искусственного интеллекта в основном разрабатываются в более богатых странах, которые также контролируют финансирование медицинских исследований.
В результате, страны СНС “существенно недостаточно представлены” в данных о медицинском обучении. Это может привести к неправильным рекомендациям инструментов искусственного интеллекта для людей в этих странах.
Несмотря на эти опасения, исследователи признают преимущества, которые искусственный интеллект может принести медицине. Для смягчения рисков они предлагают несколько мер.
Во-первых, они хотят, чтобы модели ясно описывали используемые данные в своем развитии. Они также требуют дальнейшей работы по устранению неравенства в исследованиях в области здравоохранения, включая лучшую рекрутацию и регистрацию информации об этнической принадлежности.
Данные обучения должны быть достаточно представительными, а также требуется провести дополнительное исследование использования искусственного интеллекта для маргинализованных групп. Эти вмешательства, говорят исследователи, будут способствовать справедливому и инклюзивному здравоохранению.
«Мы должны проявлять осторожность, признавая, что мы не можем и не должны препятствовать потоку прогресса», – сказал доктор Мохаммад Али из Лестерского Университета.
