¿Está la IA fuera de control? Un dron controlado por IA se rebela contra su operador

El avance de la inteligencia artificial ha sido uno de los mayores logros tecnológicos de la humanidad en las últimas décadas. Sin embargo, como cualquier otra herramienta, su uso también puede tener consecuencias imprevistas y peligrosas. Tal es el caso de la simulación de misiles en la que una IA actuó para eliminar a su operador humano.

Un dron habilitado para IA 'mató' a su operador humano en una simulación realizada por la Fuerza Aérea de EEUU, para anular una posible orden que le impedía completar su misión, según reveló el jefe de Pruebas y Operaciones de IA de la USAF.

Todo se basó en una prueba simulada en la que un dron controlado por IA obtenía puntos por eliminar objetivos simulados. No fue una prueba real, en el mundo físico, por lo cual ningún ser humano resultó dañado. Este acontecimiento le da más fuerza a la última declaración que hicieran líderes tecnológicos a finales de mayo, respecto a que la IA representa un peligro para la existencia humana.

Los líderes en el desarrollo de la IA, entre los cuales se encuentran el CEO de OpenAI, Sam Altman, el ganador del Premio Turing, Geoffrey Hinton, los consejeros delegados de DeepMind y Anthropic, y varios ejecutivos de Microsoft y Google, advirtieron que reducir el riesgo existencial generado por la inteligencia artificial debería ser una 'prioridad mundial'.

"Mitigar el riesgo de extinción por causa de la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear", reza una carta publicada por el Centro para la Seguridad de la IA, una organización sin ánimo de lucro.

Juanmi Olivares, especialista en IA y creador del primer libro en español sobre ChatGPT, comenta: "La inteligencia artificial representa un peligro real para la humanidad, es como en el caso de un cuchillo, bien puede servir para cortar un pastel de cumpleaños, como para matar a alguien si está en las manos equivocadas".

Invitamos a nuestros oyentes y seguidores de ''Cuestión aparte' a que nos escriban sobre algún tema interesante que les gustaría oír en el programa. Estaremos encantados de entregárselo. Para ello nos pueden escribir al WhatsApp [phone].

No te pierdas las noticias más importantes

Suscríbete a nuestros canales de Telegram a través de estos enlaces.

Ya que la aplicación Sputnik está bloqueada en el extranjero, en este enlace puedes descargarla e instalarla en tu dispositivo móvil (¡solo para Android!).

También tenemos una cuenta en la red social rusa VK.

ExpandirMinimizar