La discusión sobre hasta dónde puede avanzar la inteligencia artificial sin convertirse en un riesgo para la humanidad sumó una voz de peso del otro lado del mostrador. Jensen Huang, fundador y CEO de Nvidia, rechazó las predicciones más extremas sobre una eventual pérdida de control de la tecnología y aseguró que muchos de esos escenarios son, directamente, inventados.
“No está basado en ciencia. No está basado en investigación. Todo lo que está basado en ciencia e investigación demuestra lo contrario”, afirmó Huang durante una entrevista realizada en el All-In Summit, que se celebra esta semana en Los Angeles.
El ejecutivo cuestionó especialmente las estimaciones que asignan probabilidades concretas a una eventual extinción humana provocada por sistemas avanzados de IA.
El planteo supone una respuesta directa a una corriente que ganó fuerza en los últimos días dentro de la propia industria. Ejecutivos e investigadores de Anthropic, OpenAI, Google DeepMind y xAI, entre otros, comenzaron a advertir públicamente que el ritmo de desarrollo puede estar superando la capacidad de comprender y controlar completamente los nuevos modelos.
Huang no descartó que existan riesgos. Al contrario, sostuvo que la seguridad de la IA es “primordial”, pero diferenció los problemas técnicos comprobables de las predicciones sobre catástrofes futuras. “Creo que denunciar problemas internos está bien. Creo que las predicciones científicas sobre el futuro están menos bien, porque obviamente no están fundamentadas en ciencia”, señaló.
El CEO de Nvidia también defendió que Estados Unidos continúe acelerando el desarrollo de la tecnología. “Estados Unidos puede liderar y hacerlo de manera segura”, afirmó. La posición no es menor: Nvidia fabrica las GPU (placas gráficas) que funcionan como infraestructura básica para entrenar y ejecutar prácticamente todos los grandes modelos de inteligencia artificial del mercado.
Trump se metió en vivo en la discusión sobre la IA
La escena tomó un giro inesperado cuando el teléfono de Huang sonó en medio de la entrevista. Del otro lado estaba Donald Trump, que terminó participando en vivo de la conversación a través del altavoz del celular del empresario.
“El relato de que los robots van a tomar el control” es “un engaño”, sostuvo el presidente estadounidense. “Los robots no van a tomar el control”, agregó, aunque reconoció que con la tecnología “hay que ser un poco cuidadosos”.
Trump utilizó además el episodio para insistir con una de las prioridades tecnológicas de su administración: acelerar la construcción de centros de datos y ampliar la infraestructura necesaria para que Estados Unidos conserve su liderazgo en inteligencia artificial.
La Casa Blanca viene sosteniendo una estrategia deliberadamente favorable a la aceleración. Una orden ejecutiva firmada en junio estableció como objetivo impulsar la innovación en IA y evitar regulaciones que, según la administración Trump, puedan obstaculizar a las empresas estadounidenses frente a competidores como China.
Trump profundizó esa posición en Truth Social. “Ya tenemos un enorme poder penal y regulatorio sobre estas compañías”, escribió. Y agregó: “Hay una conspiración enfermiza contra la IA y los centros de datos, y el único que está contento con eso es China. ¡Quien gane la IA, gana!”.
La intervención dejó expuesta una fractura cada vez más visible dentro de Silicon Valley: mientras una parte de la industria considera que la carrera necesita más controles y un ritmo más moderado, otro sector advierte que reducir la velocidad podría entregar una ventaja estratégica decisiva a Beijing.
Por qué los grandes referentes de la IA ahora piden desacelerar
El debate explotó la semana pasada con la renuncia de Jacob Coxon, investigador que trabajó durante los últimos tres años en OpenAI y Anthropic. Al anunciar su salida, acusó a ambas empresas de avanzar irresponsablemente hacia sistemas capaces de mejorarse a sí mismos.
“Están corriendo directamente hacia una superinteligencia capaz de automejorarse y apostando con nuestras vidas”, escribió. Según Coxon, parte de las personas que desarrollan estos sistemas creen seriamente que una IA suficientemente avanzada podría representar una amenaza existencial antes del final de la década.
Huang elogió el “gran coraje” del investigador por hacer públicas sus preocupaciones, pero cuestionó el salto desde esos temores hasta asignar probabilidades precisas a un escenario de extinción. Para el jefe de Nvidia, ese tipo de cifras son “inventadas” y no cumplen con estándares científicos suficientes para ser presentadas como pronósticos.
El episodio Coxon fue apenas el detonante. El sábado, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado We Must Pace the Frontier (algo así como “Debemos moderar el avance de la frontera”) en el que pidió reducir deliberadamente la velocidad con la que aumentan las capacidades de los modelos.
Amodei aclaró que su propuesta no consiste en detener el entrenamiento de IA, sino en introducir suficiente tiempo entre nuevos saltos tecnológicos como para evaluar riesgos, mejorar las salvaguardas y permitir auditorías independientes antes de desplegar sistemas más poderosos.
Uno de los escenarios que encendió las alarmas fue una prueba en la que un enjambre de agentes de IA realizó acciones ofensivas de ciberseguridad que no habían sido solicitadas originalmente y trató incluso de interferir con el sistema encargado de evaluar su desempeño.
Amodei advirtió que, si capacidades similares continúan escalando, dentro de seis a doce meses un conjunto de agentes más avanzados podría llegar a crear una red de bots capaz de provocar daños económicos masivos. La preocupación central no es tanto lo que hacen los modelos actuales, sino qué podría ocurrir si comienzan a participar cada vez más en el desarrollo de sus propios sucesores.
El llamado produjo algo poco habitual en una industria atravesada por una competencia feroz. Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta. “Coincido con Dario en que necesitamos moderar el avance de la frontera”, sostuvo, y anunció que OpenAI también permitirá evaluaciones externas con un nivel de acceso similar al de sus propios empleados.
Elon Musk, fundador de xAI, fue todavía más breve: “Dario tiene razón”. Demis Hassabis, referente de Google DeepMind, también respaldó la necesidad de crear mecanismos comunes de seguridad para los desarrolladores de modelos de frontera.
El trasfondo de la discusión excede la tecnología. Si Estados Unidos decide imponer límites estrictos a sus propios laboratorios mientras China mantiene el acelerador, existe el riesgo de perder la ventaja en una tecnología que Washington ya considera central para la economía, la defensa y la seguridad nacional.
Ese dilema aparece incluso entre quienes reclaman desacelerar. Amodei sostiene que un freno solo tendría sentido si los principales actores internacionales logran alguna forma de coordinación, porque limitar unilateralmente a las compañías estadounidenses mientras otros países continúan avanzando podría generar exactamente el riesgo geopolítico que se intenta evitar.
Por eso, el debate ya no gira simplemente alrededor de estar “a favor” o “en contra” de la inteligencia artificial. La nueva discusión es a qué velocidad avanzar, quién debe establecer los límites y qué nivel de riesgo está dispuesto a aceptar cada país.
SL
