El problema de los algoritmos que dominan (secretamente) el mundo
Complejas fórmulas matemáticas juegan un importante rol en varios aspectos de la vida cotidiana, desde la detección de criminales hasta las recomendaciones para que adquiramos tiquetes aéreos y la predicción de los resultados de elecciones presidenciales. Incluso se han desarrollado algoritmos que simulan una relación amorosa ‘ideal’, haciendo posible tener un romance con una pareja virtual.
Decisiones cada vez más importantes dependen hoy en día del correcto funcionamiento de programas informáticos, por lo que es necesario que estén regidos por aspectos como la objetividad, la ética y la transparencia. Según recoge AP, varios expertos temen que estos valores se vean amenazados de una forma u otra con el creciente desarrollo de algoritmos.
Confiar ciegamente
Cathy O’Neil, una científica especializada en el análisis de datos, advierte sobre el peligro de «confiar ciegamente» en fórmulas, pues éstas son creadas usualmente por una o pocas personas cuyos objetivos no son siempre íntegros. «La persona que construye el modelo define el concepto de éxito», según O’Neil, y es por ello por lo que los algoritmos «no son inherentemente justos», agrega.
Entre los ejemplos de injusticias que la científica cita se encuentra el despido de más de 200 profesores de escuelas públicas de la ciudad estadounidense de Washington en 2010, a partir de un algoritmo que evaluaba el rendimiento profesional, además de otros casos de posible discriminación en contra de las minorías.
Una posible solución
A partir del próximo año, la Unión Europea pondrá en práctica la Ley de protección de datos, que aspira a crear un ‘derecho de explicación’ que beneficie a los consumidores afectados por una decisión algorítmica perjudicial.
Según Frank Pasquale, autor del libro ‘The Black Box Society: Los algoritmos secretos que controlan el dinero y la información’, ello «obligaría a la transparencia o impediría que los algoritmos se utilicen en ciertos contextos».
Chivo expiatorio
Sin embargo, otros especialistas, como el vicepresidente de la Fundación de Tecnologías de la Información e Innovación Daniel Castro, afirman que los algoritmos no deberían ser usados como chivos expiatorios para los males de la sociedad.
«La gente se enoja y está buscando algoa lo que culpar», afirma Castro. «Estamos preocupados por la parcialidad, la responsabilidad y las decisiones éticas, pero estas existen independientemente de si se utilizan algoritmos o no», concluye.