entre los riesgos reales, el marketing y la amenaza de China

Anthropic y OpenAI, dos de las empresas de inteligencia artificial más importantes del mundo, pidieron durante el fin de semana límites al desarrollo de la IA “de frontera”, esto es, la tecnología de punta de los modelos actuales. Proponen desacelerar cuando los controles de seguridad no alcancen. El pedido llega en medio de una disputa con China y de un negocio que, para OpenAI, sigue siendo una máquina de perder plata.

Según The Wall Street Journal, OpenAI registró US$12.300 millones de pérdidas operativas en el segundo trimestre de 2026, con ingresos por US$6.700 millones. La cifra incluye remuneraciones en acciones: sus ventas todavía no cubren el costo total del negocio.

El acceso gratuito y la expansión financiada por inversores recuerdan una estrategia clásica de las grandes tecnológicas: atraer usuarios, generar dependencia y luego endurecer precios y condiciones. Cory Doctorow llamó enshittification al deterioro de las plataformas para extraer más ganancias de usuarios y empresas que quedan atrapados en ellas. Es una lectura posible del negocio de la IA, cuyo desenlace sigue abierto.

Y hay un dato que no es menor: el período de la IA del “chatbot” ya quedó atrás. Ahora, la IA dejó de ser sólo una herramienta que responde preguntas para convertirse en “agentes” capaces de actuar durante largos períodos, utilizar herramientas, escribir código, conectarse con otros sistemas y ejecutar secuencias complejas de tareas. Y hasta capaz de escribir cómo será la próxima generación de modelos: la IA, bajo la orden humana, construyendo sus nuevas versiones.

Para hacer todo esto, la IA necesita grandes cantidades de datos, computadoras y energía, que hasta generaron un movimiento de protestas en EE.UU. Según el Departamento de Energía estadounidense, los centros de datos consumieron el 4,4% de la electricidad del país en 2023 y podrían alcanzar entre el 6,7% y el 12% en 2028, cifra que abarca todos esos centros, con la IA como motor de crecimiento.

Mientras tanto, China ofrece alternativas que presionan sobre precios y rendimiento. Frenar puede dar tiempo para mejorar la seguridad y permitir que un rival gane terreno.

¿Qué proponen las empresas? ¿Cuánto pesan el negocio y la geopolítica? ¿Y cuáles son los riesgos comprobados detrás de las advertencias, teñidas de marketing para vender un problema y también la solución?

1. ¿Qué pide Anthropic?

Dario Amodei, su director ejecutivo, publicó este septiembre el ensayo We Must Pace the Frontier: propone moderar el avance para verificar que los sistemas respeten las instrucciones y los límites de sus creadores. También se sumaron al pedido que hicieron Elon Musk (Tesla, SpaceX, X -Twitter-) y Demis Hassabis, responsable de Google DeepMind.

Su plan contempla evaluadores externos dentro de los laboratorios, acuerdos entre empresas de países democráticos y coordinación internacional. Anthropic se comprometió con la revisión externa, las otras etapas están pendientes.

La investigación continuaría bajo controles más exigentes. El objetivo es ganar tiempo para comprobar que las medidas de seguridad acompañen el crecimiento de las capacidades.

En un documento del 9 de septiembre, la compañía reclamó regulación obligatoria, evaluaciones independientes y criterios internacionales para decidir cuándo ralentizar o detener desarrollos peligrosos. Sostiene que frenará sistemas cuyos riesgos no pueda contener.

También aclara que la mejora completamente autónoma de sucesivas generaciones de IA todavía no ocurre. Hoy se automatizan partes de la investigación. La hipótesis de una IA que construya por su cuenta versiones cada vez más poderosas supone un salto adicional.

Convertir las propuestas en obligaciones verificables exige definir quién inspecciona, a qué información accede y qué ocurre ante un incumplimiento.

3. ¿Por qué China complica cualquier freno?

Una desaceleración unilateral puede alterar la competencia, advierten especialistas. Amodei sostiene que Estados Unidos necesita conservar suficiente ventaja para dedicar más tiempo a la seguridad sin quedar relegado. Por eso vincula su propuesta con restringir el acceso chino a chips avanzados y proteger los modelos estadounidenses contra robos y copias no autorizadas (que China niega, por cierto).

Desde Beijing, la lectura es otra. Según Reuters, el diario estatal Global Times cuestionó el pedido como una maniobra para limitar el desarrollo chino. La Cancillería reclamó cooperación y advirtió contra la confrontación. La discusión involucra quién dominará una tecnología con aplicaciones económicas, científicas y militares.

4. ¿Los modelos chinos realmente compiten?

Sí, aunque el rendimiento varía según la tarea. Según las pruebas de DeepSeek, su nuevo V4.1 Flash obtuvo un 90,6% en una prueba de tareas informáticas, frente al 88,8% de GPT-5.6 Sol, de OpenAI. En un examen de preguntas científicas avanzadas quedó por debajo: 90,9% contra 94,1%.

Las condiciones de cada prueba limitan la comparación e impiden establecer un ganador absoluto. Son resultados publicados por la propia compañía china, sobre esos modelos concretos; no garantizan el mismo desempeño en cualquier trabajo.

Kimi, de Moonshot, y Qwen, de Alibaba, también compiten. Para muchos clientes, resolver una tarea con suficiente precisión y menor costo puede pesar más que tener el sistema más avanzado.

Es cierto que la IA puede acelerar ataques, estafas y el análisis de información robada. Para los usuarios, las consecuencias incluyen cuentas comprometidas, datos expuestos o servicios interrumpidos. Pero también es cierto que las compañías explotan este riesgo para construir una narrativa que intenta vender un problema y la solución al mismo tiempo.

Verónica Valeros, codirectora del grupo Stratosphere de la Universidad Técnica Checa de Praga, explica que su equipo ya observa IA utilizada para automatizar ataques, aunque lejos de los episodios más complejos presentados por los grandes laboratorios.

“Sí, tenemos una ventana de tiempo como defensores para mejorar. ¿Cuánto tiempo? Imposible saber”, sostuvo a Clarín. “Esta aceleración siempre va a ir en tándem: cuando mejora la defensa, mejoran los ataques. Lo importante es no perder el ritmo como defensores”.

OpenAI reconoció que sus agentes, sistemas capaces de ejecutar tareas, accedieron a infraestructura externa en el incidente de Hugging Face y que había subestimado sus capacidades ofensivas. Un sistema puede causar daños al perseguir una tarea de una manera no prevista, sin que eso implique conciencia o voluntad humana.

Sobre ese terreno irrumpió la renuncia de Jacob Coxon, investigador que había trabajado en OpenAI y Anthropic. El 8 de septiembre anunció su salida de esta última y acusó a ambas de estar “apostando con nuestras vidas” en la carrera hacia sistemas capaces de mejorarse a sí mismos.

Su advertencia sobre una IA futura fuera de control expresa una preocupación personal. Establecer probabilidades y plazos requiere evidencia adicional. Su testimonio tampoco equivale a la posición oficial de Anthropic, aunque ayuda a entender el debate dentro de los laboratorios.

Javier Blanco, doctor en Informática por la Universidad de Eindhoven, propone cautela. “Las preocupaciones por el poder de estos sistemas y la capacidad de hacer daño son reales, pero a la vez están sobredimensionadas en los discursos”, explicó a Clarín.

“Los riesgos concretos tienen que ver con las consecuencias que la gran capacidad de estos sistemas puede tener en todos los ámbitos de la vida”, agregó.

Federico Pacheco, director de Servicios de Ciberseguridad de BASE4 Security, identifica una tensión comercial en la iniciativa defensiva de OpenAI. “Lo que postea OpenAI creo que es 50/50, marketing y realidad”, sostuvo. Su crítica apunta también al control del acceso. “OpenAI decide quién entra al club que ellos mismos convocaron, pero a la vez declaran que ninguna compañía debería controlar el futuro”, señaló.

Aun así, reconoce capacidades concretas: “Es verdad que la IA multiplica la productividad del atacante, que puede descubrir vulnerabilidades y que puede operar campañas de manera bastante autónoma”.

Entre una carrera lanzada a toda velocidad y un modelo de negocios que busca generar dependencia de las suscripciones, las grandes empresas de IA ahora reclaman regulaciones para contener los riesgos de la tecnología que ellas mismas desarrollan.

Son también compañías que buscan salir a cotizar en Wall Street. Allí, sus balances quedarán expuestos al escrutinio público y los inversores podrán medir la rentabilidad de un negocio que hoy cobra sus servicios muy por debajo de lo que cuesta sostenerlos y, aun así, recibe inversiones millonarias.

Desde el mundo del software libre suman otra advertencia: este puede ser también el momento en que las grandes empresas intenten cerrar filas, poner estas tecnologías bajo el control de unos pocos propietarios y dejar, una vez más, que Silicon Valley decida el rumbo de la tecnología.