- Sputnik Mundo
Ciencia
Los hallazgos más importantes y logros más emocionantes en el campo de la ciencia.

Matar a Skynet: científicos buscan métodos para apagar la inteligencia artificial

© Sputnik / Vladimir Astapkovich / Acceder al contenido multimediaUn robot
Un robot - Sputnik Mundo
Síguenos en
Paralelamente a los logros científicos en el ámbito de los sistemas autónomos, los científicos advierten sobre el riesgo de que las máquinas inteligentes se salgan de control. ¿Cómo prevenir un posible desastre?

Un grupo de abogados de varios paises - Sputnik Mundo
Futuro de la justicia: conozcan al primer robot abogado
Uno de las herramientas más sencillas sería un 'interruptor' que apague la inteligencia artificial. Sin embargo, esto no funcionaría si el sistema está repartido entre varios centros, por ejemplo, si se basa en una red de computadoras. 

Así, lo que realmente es necesario es un modo de asesinar a la misma inteligencia artificial, es decir, a su algoritmo.

El equipo de uno de los proyectos más avanzados en el área de inteligencia artificial, el 'Deep Mind de Google', en colaboración con el Instituto del futuro humano —una entidad científica dentro de la Universidad de Oxford— está elaborando medidas de precaución contra la rebelión de la inteligencia artificial.

Sus ideas, plasmadas en un análisis matemático, describen métodos para construir "un gran botón rojo" que ayudaría a invalidar a cualquier robot en caso de que sus acciones representen una amenaza.

Un robot durante una demostración en la ciudad rusa de Klimovsk - Sputnik Mundo
Ciencia
¿Cómo prevenir la rebelión de los robots?
Se prevé que el dispositivo de seguridad contra la presunta rebelión podría ser incrustado en la futura inteligencia artificial a nivel de su software, según informa el portal Mecánica Popular.

La meta de los científicos es crear un algoritmo dentro de la lógica de la inteligencia artificial que no permita a la maquina resistir o evitar la orden de desconexión.

Aunque estas alarmas parezcan prematuras —debido a que las inteligencias artificiales existentes solo empiezan a cumplir tareas un poco más complicadas que jugar al ajedrez o buscar información rápidamente— el científico de la Universidad de Oxford, Nick Bostrom, advierte que la revolución de las máquinas podría ocurrir de forma inesperada. 

Basta solo crear una inteligencia artificial con la capacidad de mejorarse a sí misma, y de inmediato los robots empezarán a desarrollarse fuera del control humano, concluye.


Lo último
0
Para participar en la conversación,
inicie sesión o regístrese.
loader
Chats
Заголовок открываемого материала