La IA en el sector de la salud podría agravar las desigualdades étnicas y de ingresos, advierten los científicos
Científicos advierten que la IA en salud podría aumentar desigualdades étnicas e ingresos
Los científicos temen que el uso de modelos de IA como ChatGPT en el ámbito de la salud exacerbe las desigualdades.
Los epidemiólogos de las universidades de Cambridge y Leicester advierten que los grandes modelos de lenguaje (LLM, por sus siglas en inglés) podrían afianzar las desigualdades para las minorías étnicas y los países de bajos ingresos.
Su preocupación surge de los sesgos sistémicos en los datos. Los modelos de IA utilizados en el ámbito de la salud se entrenan con información de sitios web y literatura científica. Sin embargo, las pruebas demuestran que a menudo faltan datos étnicos en estas fuentes.
Como resultado, las herramientas de IA pueden ser menos precisas para los grupos subrepresentados. Esto puede llevar a recomendaciones de medicamentos ineficaces o a consejos médicos racistas.
“Se acepta ampliamente que existe un riesgo diferencial asociado con pertenecer a una minoría étnica en muchos grupos de enfermedades”, dijeron los investigadores en su estudio.
- La fibra óptica podría ser la respuesta a la pérdida de agua causad...
- Getir vende equipos, busca desesperadamente financiamiento en medio...
- Nueva ley en el Reino Unido podría desencadenar la ‘vigilanci...
“Si la literatura publicada ya contiene sesgos y menos precisión, es lógico que los futuros modelos de IA mantengan y exacerbén estos sesgos”.
Los científicos también están preocupados por la amenaza que representan los países de bajos y medianos ingresos (LMIC, por sus siglas en inglés). Los modelos de IA se desarrollan principalmente en naciones más ricas, que también dominan la financiación de la investigación médica.
En consecuencia, los LMIC están “muy subrepresentados” en los datos de entrenamiento en el ámbito de la salud. Esto puede llevar a que las herramientas de IA brinden malos consejos a las personas en estos países.
A pesar de estas preocupaciones, los investigadores reconocen los beneficios que la IA puede aportar a la medicina. Para mitigar los riesgos, sugieren varias medidas.
En primer lugar, desean que los modelos describan claramente los datos utilizados en su desarrollo. También piden más trabajo para abordar las desigualdades en la investigación médica, incluida una mejor selección y registro de información étnica.
Los datos de entrenamiento deben ser adecuadamente representativos, mientras que se necesita más investigación sobre el uso de la IA para grupos marginados. Estas intervenciones, según los investigadores, promoverán una atención médica justa e inclusiva.
“Debemos tener precaución, reconociendo que no podemos ni debemos frenar el progreso”, dijo el Dr. Mohammad Ali de la Universidad de Leicester.
