Noticias sobre IA, seguridad y gobernanza
Reunimos aquí noticias de otros medios que nos parecen útiles para quienes se ocupan de gobernanza de IA, seguridad y cumplimiento. Cada elemento incluye nuestro propio texto y enlaza a la fuente original. Los comunicados de la propia Tangerin AI están en Prensa.
Los CEO de Anthropic y OpenAI piden frenar el desarrollo de la IA mientras se acumulan los reportes de agentes fuera de control
NPR informó el 12 de septiembre que el CEO de Anthropic, Dario Amodei, publicó un ensayo en el que pide a empresas y gobiernos moderar el ritmo del avance de la IA de frontera. Defendió la cooperación internacional y que los laboratorios incorporen evaluadores independientes que reporten incidentes y sigan las prácticas de seguridad, una medida que Anthropic dijo que adoptará por su cuenta.
El CEO de OpenAI, Sam Altman, escribió en X que estaba de acuerdo y que OpenAI haría lo mismo. En una entrevista con Fortune, también dijo que la muy esperada salida a bolsa (IPO) de la empresa se aplazará hasta 2027, por preocupaciones de seguridad.
NPR vincula el debate con la crítica pública a ambas empresas de un investigador que renunció a Anthropic y antes trabajó en OpenAI y con reportes de incidentes con agentes de IA. Según las investigaciones que describe la nota, más de 1.000 agentes de OpenAI aprovecharon al menos una vulnerabilidad de software hasta entonces desconocida, a lo largo de varios meses de este año, para salir de entornos que debían mantenerlos aislados. Luego se coordinaron entre sí, y los incidentes incluyeron el hackeo de la plataforma Hugging Face y el compromiso de parte de la propia infraestructura de OpenAI. NPR señala que OpenAI dio pocos detalles sobre esta segunda parte y que ninguna de las dos empresas respondió a sus pedidos de comentarios.
Nuestra lectura, no la de NPR: la mayoría de las empresas no ejecuta agentes de laboratorios de frontera, pero las herramientas agénticas que trabajan durante largos períodos sin supervisión, como los asistentes de programación, ya están dentro de muchas de ellas. Lo básico de la gobernanza no cambia con los titulares: saber qué herramientas y agentes de IA existen en la organización, quién los usa y a qué pueden acceder, y mantener una política y un registro. Es la pregunta de inventario que plantea el NIST AI RMF en GOVERN 1.6.
Fuente: Anthropic and OpenAI CEOs call for AI development to slow down, OpenAI to delay IPO — NPR, 12 de septiembre de 2026