Algoritmos que toman las decisiones

En Estados Unidos, y en forma creciente en el mundo, los funcionarios contrataban consultoras de expertos en big data que les cobraban millones de dólares y decidían sobre la vida de los ciudadanos. Pero ni ellos mismos, escribe Natalia Zuazoy, menos aún las personas comunes, conocían el funcionamiento de los algoritmos que tomaban las decisiones por ellos. La sociedad estaba sometida a modelos de “cajas negras” donde los datos entraban, no se sabía qué ocurría adentro, y luego se tomaban determinaciones.Las manejaban unos pocos, ganando mucho dinero. Pero las grandes mayorías sufrían decisiones arbitrarias que profundizaban las injusticias.Desde la maestra que es evaluada y despedida por una fórmula hasta los miles de personas a las que se les niega un crédito, un trabajo o un seguro de salud analizando bases de datos, todos sufren sus decisiones, pero pocas personas conocen cómo funcionan. Potenciales candidatos quedan afuera de un trabajo por departamentos de recursos humanos que descartan currículums a través de fórmulas y palabras clave y solo consideran al 5 por ciento que queda arriba del ranking. Otros utilizan los datos para lo contrario, contratar trabajadores con códigos postales de barrios vulnerables porque son más dóciles a la hora de aceptar horarios rotativos y salarios mínimos debido a la gran necesidad que tienen de contar con un ingreso para subsistir. Sirvan para uno u otro objetivo, las fórmulas tienen algo en común, son algoritmos basados en secretos corporativos.