En los últimos años, la Inteligencia Artificial tomó un rol preponderante en nuestras vidas. Dado a su inmenso potencial, cada día vemos aplicaciones innovadoras en distintos aspectos. Pero, junto al crecimiento, surge una gran polémica en cuanto a la imparcialidad que los sistemas pueden adquirir: ¿podemos confiar ciegamente en el juicio de los sistemas de inteligencia artificial?

Debido a la forma en la que estos funcionan, con frecuencia los resultados aparecen sesgados. Por ejemplo, Amazon debió dejar de utilizar un sistema de inteligencia artificial encargado de relevar el currículum de potenciales candidatos para trabajar en la empresa, porque presentó un sesgo desproporcionado a favor de trabajadores hombres por sobre mujeres.

Según Fredi Vivas, CEO de Rocking Data, estos sesgos aparecen porque el conjunto de datos utilizado para entrenar los algoritmos es un reflejo del contexto social y cultural precedente. La historia de cierto fenómeno es el resultado de distintos procesos y relaciones de poder que luego son transferidos a los modelos en la fase de entrenamiento, y por lo tanto a sus resultados.

"Si no auditamos el funcionamiento de los distintos algoritmos que intervienen en nuestras vidas, estos pueden volverse rápidamente en nuestra contra, es decir, se convierten en sistemas que reproducen a escala masiva las estructuras que como sociedad estamos combatiendo, como el machismo o el racismo", profundiza Vivas.

¿Cómo funcionan estas tecnologías?

La materia prima de estos sistemas son los datos. A la hora de entrenar un modelo utilizamos datos históricos, es decir, una tabla que contenga la información del caso sobre el que queremos aplicar machine learning, por ejemplos las ventas históricas de una empresa.

En la fase de entrenamiento el modelo extrae patrones que no están a la vista del ojo humano y que le permiten entender la relación entre ellos y lo que se quiere predecir. El modelo luego, en la fase de predicción, utiliza ese conocimiento para hacer predicciones sobre datos nuevos.

¿Qué podemos hacer con esto? A nivel individual debemos formarnos y poner en contexto los resultados que generan estos algoritmos. Para esto es imprescindible entender cómo funcionan; por ejemplo, los algoritmos que nos recomiendan música, películas o personas a seguir en las redes sociales; y comprender de qué manera deciden los resultados. Finalmente, las empresas que desarrollan estas tecnologías deben, por su parte, crear estrategias responsables que minimicen el sesgo lo más posible.