Un concepto viajero

Comprensiones acerca de la interseccionalidad en estudios de sesgo en la ciencia de datos

Resumo

El uso de grandes volúmenes de datos, el diseño de algoritmos y la utilización de técnicas de aprendizaje automático parecen ser cada vez más frecuentes para la toma de decisiones en diferentes ámbitos como la salud, educación y seguridad pública, entre otros. El campo de estudio de la ciencia de datos, en la línea de investigación de justicia o fairness, investiga cómo estos sistemas pueden reproducir y acentuar sesgos y desigualdades presentes en nuestras sociedades. Se han detectado sesgos mayoritariamente de género y raciales en sistemas predictivos de reincidencia criminal, algoritmos que asisten decisiones médicas, entre muchos otros. Recientemente se han manifestado carencias en la detección de sesgos cuando se toman las variables de forma independiente, debido a que las desigualdades pueden presentarse en la intersección de las mismas, siendo indetectables en el análisis individual. En tanto concepto viajero, la interseccionalidad viene a permear este campo y habilita la posibilidad de pensar los sesgos que se dan cuando se cruzan múltiples categorías de opresión, complejizando los análisis hasta el momento centrado en un solo eje de opresión a la vez. Aquí identificamos y analizamos, a partir de una revisión sistemática de la bibliografía disponible sobre justicia interseccional, cómo la interseccionalidad “viaja” hacia la ciencia de datos, provocando nuevas preguntas en torno a la justicia. Destacamos, entre las conclusiones, la necesidad de conformar grupos interdisciplinarios de trabajo para generar diagnósticos y alternativas que se nutran de la interseccionalidad en toda su riqueza y complejidad.