tecnologia

Los algoritmos que controlan nuestras vidas son tan injustos como nosotros mismos

Los algoritmos empiezan a dominar nuestra realidad: lo hacen cuando nos recomiendan una canción en Spotify, una serie en Netflix o una compra en Amazon, pero también cuando se encargan de elegir a los mejores candidatos para un trabajo o para conceder un crédito. Todo eso ya no es ciencia-ficción. Está ocurriendo, y lo está haciendo ahora mismo, mientras lees esto.

Eso hace que haya un sentimiento agridulce sobre estos algoritmos que nos hacen la vida más fácil pero también la condicionan. Hay quien precisamente está rebelándose contra los algoritmos, y de hecho la conclusión de quienes advierten de esos peligros es contudente: deberíamos poder auditar esos algoritmos para retomar el control tanto de esos algoritmos como de nuestras vidas.

Los algoritmos son injustos

Es lo que apunta Cathy O’Neil, una científica de datos que hace poco publicó su libro “Weapons of Math Destruction” y que advertía de esa “confianza ciega” que tenemos en los algoritmos: “los algoritmos no son justos de forma inherente, porque la persona que construye ese modelo es la que define el concepto del éxito“.

Algo

En su libro explicaba cómo por ejemplo en 2010 las escuelas públicas de Washington DC despidieron a más de 200 profesores (incluidos unos cuantos con muy buena reputación) por una fórmula algorítmica que evaluaba su rendimiento.

También hay algoritmos que determinan sentencias judiciales teniendo en cuenta “factores de riesgo” como sus zonas de residencia o los lazos que sus amigos y familia puedan tener con entornos criminales. En el mundo financiero se recolectan datos de distintas fuentes para la toma de decisiones en cuanto a seguros y créditos, algo que según O’Neil a menudo “amplifica los prejuicios contra los desfavorecidos“.

Algoritmos auditables y que nos expliquen qué hacen

Zeynep Tufeckci, una profesora de tecnología de la Universida de North Carolina, explicaba recientemente en una charla TED cómo los sistemas computacionales pueden inferir una gran cantidad de conclusiones a partir de los datos que hay de nosotros en la red. Aunque eso tiene impacto positivo en ciertos escenarios, también puede acabar siendo injusto en otros.

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *