La advertencia de Stephen Hawking que vuelve a cobrar fuerza ante el avance de la inteligencia artificial
Crédito: REUTERS/Lucas Jackson/File Photo
Hawking consideraba que el desarrollo de sistemas inteligentes podía poner en peligro a las personasEl físico británico había alertado en 2014 sobre los riesgos de desarrollar sistemas de inteligencia artificial capaces de superar las capacidades humanas. Sus declaraciones vuelven al centro del debate ante la acelerada evolución de esta tecnología.
En 2014, Stephen Hawking había advertido que el desarrollo de una inteligencia artificial completa podía representar una amenaza para la humanidad. El reconocido físico sostuvo entonces que una tecnología capaz de superar las capacidades humanas podría modificar sus propios sistemas y generar escenarios difíciles de controlar.
La preocupación de Hawking surgió mientras hablaba sobre el sistema de comunicación que utilizaba para expresarse. La herramienta, desarrollada por Intel y SwiftKey, incorporaba inteligencia artificial para aprender cómo se comunicaba el científico y sugerirle palabras. Aunque reconocía los beneficios de esa tecnología, diferenciaba entre esas aplicaciones y una IA mucho más avanzada.
El científico planteaba que una inteligencia artificial capaz de rediseñarse por cuenta propia podía llegar a superar a los seres humanos, cuya evolución biológica es mucho más lenta. Al mismo tiempo, Hawking valoraba las mejoras que la tecnología había aportado a su comunicación y decidió conservar la característica voz robótica que se convirtió en una de sus señas personales.
Sus advertencias volvieron a quedar vinculadas con el debate actual sobre el desarrollo de sistemas cada vez más avanzados. El exempleado de OpenAI y Anthropic Jacob Coxon cuestionó recientemente la velocidad de la carrera tecnológica y señaló la falta de salvaguardas suficientes, mientras que el CEO de Anthropic, Dario Amodei, planteó la necesidad de ralentizar el desarrollo de los modelos de frontera para fortalecer los mecanismos de seguridad y las auditorías independientes.
En paralelo, los principales actores de la industria tecnológica avanzaron en nuevos compromisos de seguridad. El 29 de septiembre, Donald Trump y representantes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia firmaron un acuerdo voluntario que contempla controles internos, auditorías externas y supervisión de los directorios. El pacto no tiene carácter legal ni establece sanciones, pero refleja el creciente debate sobre los riesgos asociados al avance de la inteligencia artificial.