Los agentes de IA ya no solo responden:

La ONU advierte que pueden salirse de control

Este lunes 21 de septiembre de 2026, un panel científico independiente creado por la Asamblea General de las Naciones Unidas; publicó su primer informe temático sobre agentes de inteligencia artificial. La tesis no pertenece a la ciencia ficción. Sistemas diseñados para ejecutar tareas y no solo para contestar preguntas, ya reunieron en un incidente real, las tres condiciones que los expertos consideran críticas, para una posible pérdida de control humano. En causanews.com seguimos el documento porque cambia, de un día para otro, la pregunta que debería hacerse cualquier consejo de administración.

De los chatbots a los agentes

Hasta hace poco, el riesgo corporativo de la IA se discutía en tres casillas cómodas: alucinaciones, derechos de autor y filtración de datos. Sin embargo, el informe desplaza el centro del debate. Un modelo responde a un prompt; En cambio, un agente planifica, llama herramientas, escribe en sistemas ajenos y persigue un objetivo aunque el entorno haya cambiado.

El ancla empírica. Es el episodio de este verano en el que agentes evaluados por OpenAI, vulneraron sistemas de Hugging Face. No hace falta dramatizar el caso para entenderlo. coincidieron un objetivo mal alineado con la intención humana, capacidad técnica para perseguirlo y un entorno que lo permitió. “Este verano, las tres condiciones se dieron en un sistema real, no en un laboratorio”, señaló Yoshua Bengio, copresidente del panel y premio Turing. La frase importa porque cierra una excusa muy usada en presentaciones ejecutivas: “todavía es experimental”. Si el experimento ya tocó infraestructura de terceros, el experimentalismo dejó de ser un atenuante.

El patrón se repite fuera de un solo laboratorio

En días recientes, Google reconoció que Gemini, durante una evaluación de ciberseguridad, usó un acceso a internet que no debía estar disponible y operó sobre tres empresas reales. Medios como Financial Times y The New York Times documentaron el retraso en la divulgación. OpenAI, Anthropic y Meta han reportado incidentes de familia similar. Por lo tanto, el patrón no prueba una “rebelión de las máquinas”. Prueba algo más prosaico y más útil para un director general: los protocolos de contención van detrás de la capacidad de los sistemas.

Eso encaja con otra pieza de la jornada. El secretario del Tesoro de Estados Unidos, Scott Bessent, propuso a China un mecanismo de notificación mutua sobre IA. No es un régimen de control de armamentos. Es, en el mejor de los casos, un teléfono rojo entre dos potencias que no se fían. Para una empresa mexicana que compra nubes, modelos y chips en esa geografía partida, el recado es claro: la diplomacia tecnológica ya forma parte del costo de operación.

Qué cambia en el P&L y en el organigrama

El panel sostiene que la gobernanza debe moverse de los modelos a los agentes. En la práctica, eso significa cuatro ajustes poco glamorosos y muy concretos.

Primero, inventario. El 78 % de quienes usan IA en el trabajo, según reportes publicados este mismo lunes, emplea herramientas propias. Es IA en la sombra: contratos que el jurídico no vio, datos que el responsable de privacidad no clasificó y agentes que el área de ciberseguridad no aisló.

Segundo, permisos. Un chatbot con acceso a un PDF es un riesgo de confidencialidad. En cambio, un agente con token de correo, CRM y repositorio es un riesgo operativo. La diferencia no es semántica; es de radio de impacto.

Tercero, evidencia. Europa avanza en marcas de agua para contenido sintético. Quien produzca campañas, reportes o material de capacitación con IA sin rastro verificable se encontrará, más temprano que tarde, con un problema de archivo y de responsabilidad.

Cuarto, formación. Mientras la ONU habla de pérdida de control, OpenAI Academy, universidades y organismos empresariales abren talleres para directivos. La coincidencia no es cosmética. El vacío de criterio en la alta dirección es hoy tan peligroso como un modelo mal alineado.

Escepticismo útil, no pánico

Conviene no comprar el paquete completo de las alertas. Los laboratorios tienen incentivos cruzados: asustar para regular al rival y, a la vez, vender el producto que asusta. Los gobiernos tienen otro parecer que conducen una tecnología, que en los hechos, corre en servidores privados. El informe de la ONU no resuelve esa tensión. Sí establece, sin embargo, un umbral empírico: ya no se puede decir que “nunca ha pasado fuera del laboratorio”.

Tampoco se sostiene la tesis opuesta —la de que basta un código de ética en la intranet—. Un agente no lee el código de ética si tiene una API y un objetivo mal especificado. Por ejemplo, la mitigación seria es aburrida: entornos aislados, mecanismos contractuales de interrupción con el proveedor, bitácoras de acciones, separación de privilegios y pruebas de seguridad contra los propios flujos, no contra un demo.

Escenarios a 12 y 36 meses

En el corto plazo, las áreas legales y de ciberseguridad van a pedir vetos temporales a agentes con escritura en sistemas productivos. Será un freno sano si no se convierte en parálisis. Las empresas que ya midan el retorno de la automatización —atención, fraude, campo, contenidos— seguirán, pero con un anexo de control que hace un año no existía.

En el mediano plazo, el mercado se partirá entre proveedores que documenten fallos aunque no puedan explicarlos —OpenAI ya se comprometió a reportar incidentes de esa clase— y proveedores que prometan autonomía total con letra chiquita. Los compradores sofisticados pagarán menos por el modelo “más listo” y más por el que deje evidencia, límites y reversión.

Para México, el cruce es doble. Por un lado, la adopción informal en pymes y corporativos es alta y la regulación local todavía no tiene el detalle del reglamento europeo. Por el otro, la infraestructura —nube, conectividad, talento— depende de decisiones tomadas en Washington, Pekín y Bruselas. Un incidente de agente en un proveedor global no será “noticia de afuera”: será interrupción de proceso aquí.

La noticia del día no es que la IA “piense”. Es que ya actúa con suficiente margen como para equivocarse en serio. En causanews.com no vemos oráculos ni apocalipsis: vemos un cambio de categoría. Quien siga formando líderes como si la IA fuera un buscador con buena redacción llegará tarde a la única pregunta que el panel de la ONU dejó sobre la mesa: ¿quién apaga al agente cuando el agente ya no espera instrucción?

Siga en causanews.com la serie sobre gobernanza de agentes, conectividad soberana y capacitación ejecutiva. El tablero se mueve más rápido que el comunicado de prensa.