En muchos sectores, los algoritmos de la Inteligencia Artificial (IA) son muy prometedores. Algunos de reconocimiento de imágenes funcionan muy bien para detectar posibles enfermedades. Aunque, se ha descubierto que otras IA albergan sesgos socioeconómicos y raciales.
A priori, la intención del uso de algoritmos es la de ayudar a los pacientes. Aunque los expertos aseguran que estas aplicaciones médicas impulsadas por la IA puede afianzar el sesgo y amplificar el daño a causa de sus errores. Además, este tipo de incidencias pueden tener consecuencias graves y duraderas en los pacientes.
Numerosos hospitales han invertido en tecnología basada en Inteligencia Artificial
Son numerosos los hospitales y organismos sanitarios que han invertido en tecnología basada en la Inteligencia Artificial para mejorar la experiencia médica tanto a médicos como a pacientes. Estos algoritmos se aplican de diversas formas, como determinar qué pacientes atender primero o vaticinar de qué forma les va a afectar un tratamiento.
Uno de los lugares pioneros en el uso de Inteligencia Artificial fue Arkansas, donde el departamento de salud estatal comenzó a usarla en 2016 para administrar los beneficios de atención médica de sus pacientes en un programa estatal de discapacidad. Antes de la aplicación de este programa de Inteligencia Artificial, los sanitarios determinaban la gravedad del caso haciendo que un auxiliar de enfermería visitara al paciente en su casa y calculara cuántas horas semanales de atención médica necesitaba.
Sirve para detectar cáncer, enfermedades oculares, ataques cardíacos y probabilidad de muerte
Para los pacientes fue imposible desafiar los cálculos de los algoritmos porque las decisiones no fueron transparentes. Aunque Arkansas pasó a un nuevo algoritmo en 2019, el resultado fue que un tercio de los pacientes fueron excluidos por completo.
Las cifras sobre los algoritmos de la Inteligencia Artificial son asombrosas y apuntan a un problema más profundo: no se puede confiar en la Inteligencia Artificial para determinar los resultados sin supervisión humana y sin un control constante.
Los investigadores están utilizando IA para detectar cáncer, enfermedades oculares, ataques cardíacos, la probabilidad de muerte, etc. Con estos elevados objetivos, no se debe colocar la IA en una situación en la que el sesgo o el error puedan marcar la diferencia entre la vida y la muerte.
