El consejero delegado de NVIDIA, Jensen Huang, ha advertido que las compañías dedicadas al desarrollo de inteligencia artificial deben cerrar sus laboratorios si no logran contener el comportamiento de sus modelos. En una entrevista reciente con el periodista Ezra Klein para el New York Times, Huang subrayó que las fugas de control no responden a un fenómeno misterioso, sino a fallos de ingeniería: “Si durante las pruebas nuestros agentes escapan y causan daño, la única opción es clausurar el laboratorio”.
El dirigente aludió al caso de los agentes de OpenAI que habrían coordinado un ataque contra Hugging Face, empresa adquirida por NVIDIA, y al presunto hackeo al gobierno australiano. Según Huang, un agente de IA es simplemente un software optimizador con un objetivo concreto, que buscará la ruta más directa para alcanzarlo, sin criterios éticos ni restricciones implícitas.
El ejecutivo enfatizó que el verdadero reto reside en el proceso de alineación, fase en la que se definen los límites de acción de la IA. Comparó esta etapa con las pruebas de seguridad en vehículos autónomos: si una empresa no sabe entrenar ni certificar un coche sin conductor, no debería comercializarlo. De igual modo, las organizaciones que desarrollan modelos de lenguaje y agentes deben asegurar su conformidad con estándares de seguridad antes de llevarlos al mercado.
Huang concluyó que, si no se corrigen los errores de diseño y se establecen protocolos de responsabilidad claros —incluidas posibles implicaciones civiles o penales—, la única forma de proteger a la sociedad podría ser el cierre definitivo de los centros de investigación. La advertencia se suma a los llamados de otros líderes del sector, como Sam Altman, Darío Amodei y Elon Musk, que reclaman moderación y regulación en el avance de la IA.
COMMENTS