La increíble variedad de tareas complicadas que los ordenadores llevan a cabo hunde sus raíces en los algoritmos. Los buscadores se adaptan a los internautas para brindarles el resultado más aproximado a lo que requieren. Facebook analiza todos los datos para sugerir a sus usuarios nuevas amistades.
Asimismo, las fórmulas informáticas se aplican en política. La campaña del presidente estadounidense, Donald Trump, utilizó datos de empresas de marketing que emplean los algoritmos para identificar los lugares con mayor tasa de electores susceptibles de ser convencidos por los argumentos de un candidato.
Cathy O'Neil, científica especializada en datos informáticos y autora del libro 'Weapons of Math Destruction' (Armas matemáticas de destrucción), alerta sobre la "confianza ciega" depositada en los algoritmos para obtener resultados objetivos.
Lea más: 10 pasos decisivos en el camino hacia la robótica moderna
Efectos perniciosos de los algoritmos
"Los algoritmos no son necesariamente imparciales, puesto que es la persona que los crea la que define su funcionamiento y sus resultados", subraya O'Neil.
En 2010, las escuelas públicas de Washington despidieron a más de 200 profesores, incluyendo algunos profesionales sumamente respetados, en función de la evaluación realizada por un algoritmo.
Algunos tribunales utilizan las fórmulas de ordenadores para determinar penas de cárcel. Los factores de 'riesgo', como el barrio de origen del condenado, sus vecinos, amigos o familiares, pueden influir en la decisión del juez.
Lea también: "La pérdida de empleos a manos de robots es algo real"
En el área de las finanzas, el uso de algoritmos para conceder créditos y seguros puede hundir aún más a los que forman parte de los sectores más vulnerables.
Un informe de la Casa Blanca publicado el año pasado advertía también de que los sistemas algorítmicos "no son infalibles", sino que dependen de factores imperfectos, como la probabilidad y las personas que los desarrollaron.
#China pone a trabajar a sus robots policías https://t.co/1xQyxkLJXj pic.twitter.com/3bLDd9L8WP
— Sputnik Mundo (@SputnikMundo) 27 сентября 2016 г.
Nos analizan sin que lo sepamos
Zeynep Tufekci, profesora en la Universidad de Carolina del Norte especializada en tecnologías, recuerda que las decisiones tomadas automáticamente se basan a menudo en datos recopilados de las personas sin que estas estén informadas de ello.
"Estos sistemas informáticos pueden inferir todo tipo de cosas relacionadas con nosotros a partir de las huellas digitales que dejamos", subrayó la investigadora.
Según Frank Pasquale, profesor de derecho en la Universidad de Maryland, los usos no equilibrados de datos pueden ser corregidos por leyes de protección de los consumidores.
El experto se refiere a la legislación vigente en la Unión Europea, que a partir del próximo año establecerá el "derecho a la explicación" en caso de que los consumidores se vean afectados por la decisión tomada a partir de un algoritmo.
No obstante, otros especialistas defienden el desarrollo de los algoritmos, entre ellos Daniel Castro, vicepresidente de la Fundación para la Innovación y las Tecnologías de la Información.
"Estamos preocupados por errores y toma de decisiones éticas, pero existen independientemente de si utilizamos los algoritmos o no".
