¿Cuáles son los riesgos de la IA en el entorno corporativo?

La respuesta corta

Los riesgos de la IA en el entorno corporativo caben en siete. Los tres primeros ocurren todos los días, sin ningún ataque, solo porque alguien tenía un problema y una herramienta a mano: el dato de la empresa entra en una herramienta que nadie aprobó, el dato sirve para entrenar el modelo de otra empresa, o el dato personal cruza la frontera. Los cuatro siguientes dependen de cómo la empresa adopta la IA: agentes sin supervisión, errores que se convierten en decisión, falta de evidencia para el regulador y dependencia de herramientas que desaparecen.

Para cada riesgo de abajo encuentras qué es, un hecho verificable, el control que lo reduce y cómo saber si está ocurriendo en tu empresa. El hilo común es uno: no se controla lo que no se ve. Por eso el primer paso de cualquier programa es el inventario.

1. Datos de la empresa en una herramienta que nadie aprobó

Qué es. Un empleado pega un contrato, una planilla de clientes o un fragmento de código en una herramienta de IA que la empresa nunca evaluó. No hay mala fe: hay un plazo y una herramienta gratuita.

Un hecho. En mayo de 2023, TechCrunch informó que Samsung restringió el uso de IA generativa después de que datos internos sensibles fueran enviados a ChatGPT. El episodio no prueba que la herramienta sea insegura; prueba que, sin una regla clara, el dato sale por el camino más conveniente. Según Gartner, el 69% de las organizaciones ya sospechan o tienen evidencia de que los empleados usan herramientas generativas públicas prohibidas.

El control. Inventario continuo, clasificación de cada herramienta en permitida, restringida o prohibida, y una política de uso que diga qué tipo de dato entra en cada categoría.

Cómo saber si ocurre. Preguntar no responde: la mayoría de los usos no se declara. Solo responde el descubrimiento técnico, y la guía Qué es Shadow AI muestra los caminos.

2. Datos usados para entrenar el modelo de otra empresa

Qué es. En algunas herramientas, lo que el usuario escribe puede usarse para mejorar el modelo del proveedor. En algunas hay una opción para desactivarlo, y el valor por defecto depende del plan.

Un hecho. OpenAI documenta que, en cuentas personales, el contenido puede usarse para mejorar los modelos, con posibilidad de desactivarlo, y trata los planes empresariales de forma distinta, en el contrato y en la política. La misma herramienta, en dos planes, tiene dos perfiles de riesgo. Por eso la pregunta útil es “¿en qué plan está mi equipo?”, y no “¿esta herramienta es segura?”. Detallamos el caso en la guía ¿Es seguro usar ChatGPT en el trabajo?.

El control. Registrar, por herramienta, si la versión gratuita entrena con los datos y si la empresa contrató un plan con términos distintos. Ese campo existe en las fichas de nuestro catálogo público, en las herramientas ya evaluadas; la evaluación es progresiva.

3. Datos personales que salen del país

Qué es. Cuando hay datos personales en lo que se envía a una herramienta de un proveedor extranjero, el envío es una transferencia internacional de datos.

El control. Conocer el país de cada proveedor, tener la base legal y el instrumento contractual de la transferencia en los casos con datos personales, y evitar el dato personal en las herramientas que no los tengan. El origen de cada herramienta está en su ficha del catálogo, y el análisis completo en /pesquisa. Para el encuadre legal, mira la LGPD y las herramientas de IA.

4. Agentes que actúan sin supervisión

Qué es. Un agente de IA no solo responde: ejecuta acciones, como enviar correos, modificar archivos, llamar a sistemas y comprar. El riesgo cambia de naturaleza: deja de ser lo que la herramienta dice y pasa a ser lo que hace, con las credenciales de quien la configuró.

Un hecho. El perfil de IA generativa del NIST (AI 600-1, 2024) es el complemento del AI RMF dedicado a los riesgos propios de la IA generativa. Nuestro catálogo ya registra más de 500 herramientas activas en la categoría de agentes, y cada una es un punto de decisión: qué sistemas alcanza y con qué credenciales.

El control. Tratar al agente como una identidad: permisos mínimos, aprobación humana para acciones irreversibles y registro de lo que se hizo. Al evaluar, pregunta a qué sistemas tiene acceso el agente y quién responde por lo que hace.

5. Un error de IA que se convierte en decisión

Qué es. La IA generativa produce texto que suena correcto y puede estar equivocado. El riesgo aparece cuando el texto se convierte en contrato, dictamen, respuesta a un cliente o decisión sin que nadie lo revise.

El control. Una regla de revisión humana proporcional al impacto: lo que sale de la empresa, o decide algo sobre una persona, pasa por quien responde por el resultado. La política debe decirlo por escrito, con ejemplos del día a día, y atribuir el contenido generado a una persona.

6. Responsabilidad regulatoria sin evidencia

Qué es. La LGPD, el EU AI Act y las normas sectoriales no piden que la empresa diga que controla la IA: piden que pueda mostrar que la controla. Una regla sin registro de que se cumplió no resiste una auditoría.

El control. Guardar la evidencia junto con la decisión: el inventario, la clasificación, la aceptación de la política por quienes la usan y el tratamiento de cada desvío, con responsable y plazo. El EU AI Act, por ejemplo, impone obligaciones por categoría de riesgo y puede alcanzar a empresas fuera de Europa; mira cuándo se aplica a una empresa fuera de la UE.

7. Dependencia de una herramienta que desaparece

Qué es. El mercado de IA cambia más rápido que el ciclo de compras de una empresa: las herramientas aparecen, cambian de términos y desaparecen. Un proceso construido sobre una herramienta que sale del aire es un riesgo operativo, y el registro de lo que se hizo en ella, un riesgo de auditoría.

El control. Un inventario que se actualiza solo, en lugar de una lista levantada una vez al año, y un registro del riesgo de cada herramienta que sigue valiendo después de que desaparece, para que un evento antiguo siga siendo auditable.

El mapa en una tabla

Por dónde empezar: los primeros 30 días

• Semana 1: descubrir. Levanta lo que está en uso con datos técnicos, no con un cuestionario. El diagnóstico gratuito en /diagnostico muestra, en nueve preguntas, dónde está tu empresa.
• Semana 2: clasificar. Encuadra cada herramienta como permitida, restringida o prohibida, y anota el motivo y el plan contratado.
• Semana 3: regular. Publica una política corta, con ejemplos de datos, y recoge la aceptación de quienes la usan.
• Semana 4: monitorear. Convierte cada desvío en una tarea con responsable y plazo, y cierra el ciclo con evidencia.

Cómo medir el riesgo de una herramienta

Cuatro preguntas resuelven la mayoría de los casos: qué hace la herramienta con lo que entra (entrena, guarda, comparte), dónde están los datos y quién es el proveedor, qué términos valen para el plan que usa tu equipo, y cuál es el historial de la empresa detrás. La ficha de cada herramienta en nuestro catálogo registra el país del proveedor, el riesgo clasificado con el motivo y, en las herramientas ya evaluadas, si la versión gratuita entrena con los datos. Si un proveedor no puede responder estas preguntas, esa es la respuesta.

Preguntas frecuentes