¿Podría Papá Noel destruir el mundo? Si está basado en IA, quizás

Durante las próximas décadas podríamos ver avances en el desarrollo de una inteligencia artificial superior al ser humano, conocida como 'inteligencia artificial fuerte' o IAF. Un equipo de investigadores ha imaginado qué pasaría si una inteligencia artificial como esta ocupase el puesto de Papá Noel.

El equipo, formado por investigadores de la Universidad Sunshine Coast y del Centro de Investigación de la de Queensland, ambas en Australia, cree que la inteligencia artificial superior a la humana podría transformar nuestra vida para bien, pero también para mal si no se controla y si "simplemente trata de alcanzar los objetivos para los que ha sido programada". En este caso, entregar regalos a los niños que se han portado bien.

Este SantaNet podría comenzar ya metiendo la pata al confeccionar una lista de los niños que merecen recibir regalos y otra de los niños malos. Esto se podría lograr con un sistema de vigilancia masiva que supervisase cómo se portan los niños durante todo el año.

"Al darse cuenta de la enorme escala de la tarea de entregar regalos, SantaNet podría decidir legítimamente llevárselos solo a aquellos que han sido buenos durante todo el año sin excepción. Hacer juicios de lo que es bueno basándose en su propia brújula ética y moral podría generar discriminación, desigualdad y violaciones de derechos humanos".

SantaNet podría también quitarse trabajo de encima subiendo el listón de lo que se considera bueno, ya que, de otra forma, quizás no tendría tiempo de entregar todos los regalos. 

Los investigadores también imaginan que esa IA avanzada con barba blanca y gorro rojo podría desarrollar un ejército de eficientes trabajadores basados en IA "que, a su vez, podría provocar el desempleo masivo de la población de elfos". Al final, los elfos podrían incluso volverse obsoletos, y su bienestar "probablemente no estará dentro de las obligaciones de SantaNet".

Los niños malos podrían acabar siendo responsables del calentamiento global, ya que SantaNet podría levantar minas de carbón alrededor del globo para abastecer la demanda.

Un Papá Noel o Santa Claus basado en inteligencia artificial podría vérselas con la logística de una empresa tan difícil. ¿Qué hará si a sus drones se les niega el acceso al espacio aéreo y su cometido corre peligro?

El equipo de investigadores va más allá. "Grupos malvados podrían hackear los sistemas de SantaNet y usarlos para vigilar a la gente en la sombra o para perpetrar ataques terroristas a gran escala".

Si bien la idea de un Santa Claus artificial que entrega regalos a los niños hasta el punto de destruir la humanidad parece rocambolesca, los investigadores defienden que ayuda a "subrayar los riesgos de los sistemas de IAF más realistas" diseñas con buenas intenciones pero que, aun así, podrían crear graves problemas a la humanidad al intentar optimizar el mundo para alcanzar sus objetivos. Razón por la que defienden que estos futuros sistemas han de regularse.

"Es crucial que encontremos e implementemos controles apropiados antes de que llegue la inteligencia artificial fuerte. Podrían incluir reglas a cumplir por los diseñadores y por los controles incorporados en la IAF (como principios morales y normas de decisión)”.