No es novedad que los algoritmos reproducen los sesgos de las personas que los construyen —o al menos de la información que se usa para entrenarlos—; por ejemplo, es menos probable que los anuncios de búsquedas laborales para puestos bien remunerados se presenten a las mujeres, las búsquedas de nombres racialmente asociados son más propensos a generar anuncios de registros de arrestos y búsquedas de imágenes para profesiones como CEO devuelven menos imágenes de mujeres.

Recientemente, un nuevo estudio encontró que un algoritmo ampliamente utilizado en hospitales de Estados Unidos muestra un importante sesgo racial: las personas negras tenían menos probabilidades que las blancas de ser derivadas a los programas que brindan atención más personalizada.

En este algoritmo se basa la atención de aproximadamente 200 millones de personas en los Estados Unidos cada año y de este dependen también los grandes sistemas de salud y contribuyentes que dirigen a los pacientes a programas de "gestión de cuidados de alto riesgo".

¿Cómo surgía este sesgo? 

El algoritmo asignaba puntajes de riesgo a los pacientes sobre la base de los costos totales de atención médica acumulados en un año, lo cual puede parecer razonable si se tiene en cuenta que mayores costos de atención médica se asocian generalmente con mayores necesidades de salud.

Pero observando más detalladamente encontraron que las personas negras tenían, en promedio, costos de atención médica similares a los de personas blancas; incluso a pesar de mostrar una mayor prevalencia de afecciones como diabetes, anemia, insuficiencia renal y presión arterial alta.

Dicho de otra manera, los negros tenían que estar más enfermos que los blancos antes de ser referidos para recibir ayuda adicional; y corregir esta disparidad aumentaría el porcentaje de pacientes negros que reciben ayuda adicional del 17,7 a 46,5%.

Buscando soluciones

Ziad Obermeyer, que estudia machine learning y gestión de la atención médica en la Universidad de California, junto a su equipo sugieren encontrar otras variables para determinar las necesidades médicas de los pacientes.

Sin embargo, Obermeyer advierte: "Esas soluciones son fáciles a lo que respecta a ingeniería de software: simplemente vuelves a ejecutar el algoritmo con otra variable. La parte difícil es: ¿cuál otra variable? ¿cómo se soluciona el prejuicio y la injusticia inherentes a la sociedad?".

Los investigadores esperan que esto sirva para que en el futuro se analicen más detalladamente los sesgos en los algoritmos destinados a la atención médica.