Respuesta corta: los riesgos de la IA en una empresa son, sobre todo, seis: datos que salen donde no deben, errores que nadie revisa, decisiones sobre personas sin control, incumplimientos normativos, dependencia de un proveedor y uso sin reglas que nadie conoce. Casi ninguno es técnico. Se controlan con lo que se llama gobernanza de la IA: saber qué se usa, fijar reglas, nombrar responsables, formar al equipo y revisar.
Este artículo está escrito para dirección. No habla de los peligros de la IA para la humanidad, sino de los que afectan a una pyme que ya la usa, aunque no lo haya decidido. Para cada riesgo verás cómo aparece en el día a día y qué lo controla.
¿Cuáles son los riesgos de la IA en una empresa?
Conviene separarlos porque cada uno se controla de una forma distinta. Esta tabla es el resumen; debajo, el detalle.
| Riesgo | Cómo aparece | Qué lo controla |
|---|---|---|
| Fuga de datos | Documentos de clientes pegados en herramientas con cuentas personales | Cuentas de empresa y una política de qué datos entran |
| Errores sin revisar | Respuestas inventadas que acaban en un presupuesto o en un correo a un cliente | Revisión humana donde el resultado sale fuera |
| Decisiones sobre personas | Filtrar candidaturas o evaluar a trabajadores con una herramienta | Clasificar el uso y aplicar las reglas de alto riesgo si toca |
| Incumplimiento normativo | No poder demostrar formación del personal, transparencia o base legal de los datos | Inventario, formación y registro |
| Dependencia del proveedor | Cambios de precio, de condiciones o de funciones sin aviso | Vigilancia de cambios y alternativas identificadas |
| Uso sin reglas | Cada persona usa lo que quiere, como quiere | Responsables, aprobación de herramientas y revisión periódica |
1. Datos que salen donde no deben
Es el riesgo más inmediato y el más frecuente. Alguien copia un contrato, una hoja de clientes o un informe interno en un asistente de IA con su cuenta personal para ganar tiempo. Esos datos quedan bajo condiciones de consumo, sin contrato de empresa, y a veces con permiso para que el proveedor los use para mejorar sus modelos. Si hay datos personales, además, entra en juego el RGPD.
Se controla con dos medidas: cuentas de empresa con administración centralizada y una lista clara de qué datos no entran. Lo explicamos en ChatGPT en la empresa: cuenta personal o de empresa.
2. Errores que nadie revisa
Los modelos de lenguaje redactan con seguridad aunque se equivoquen. Pueden citar una norma que no dice lo que dicen, inventar una cifra o resumir mal un contrato. El riesgo no es que se equivoquen, que también lo hacen las personas, sino que el resultado salga de la empresa sin que nadie lo haya leído con criterio.
Se controla fijando revisión humana en los puntos donde el resultado llega a un cliente, a un proveedor o a una decisión con dinero. No en todo: en lo que importa.
3. Decisiones sobre personas
Usar IA para seleccionar candidatos, evaluar el rendimiento o decidir promociones no es como usarla para redactar un correo. El Reglamento europeo de IA considera de alto riesgo, entre otros, los sistemas de IA usados en empleo y gestión de trabajadores, con obligaciones específicas para quien los usa. Tras el Ómnibus digital sobre IA, esas obligaciones se aplican desde el 2 de diciembre de 2027 para estos usos. Lo detallamos en qué obliga ya la Ley de IA a tu empresa.
Se controla clasificando cada uso antes de ponerlo en marcha y, en los casos dudosos, con tu asesor legal.
4. Incumplimiento normativo
Una empresa que usa IA en su actividad ya tiene deberes, aunque no use nada de alto riesgo. El más extendido es el artículo 4 del Reglamento de IA: tomar medidas para la alfabetización en IA del personal. Tras su modificación por el Reglamento (UE) 2026/1744, la norma no exige garantizar un nivel concreto de conocimientos, pero sí adoptar medidas. Y según las preguntas y respuestas de la Comisión Europea, la supervisión por las autoridades nacionales empieza el 2 de agosto de 2026.
Se controla con inventario, formación por perfiles y un registro sencillo de lo hecho. Lo desarrollamos en alfabetización en IA: cómo cumplir el artículo 4.
5. Dependencia del proveedor
Las herramientas de IA cambian más rápido que cualquier otro software que use tu empresa. Cambian los modelos, las funciones, los precios, los límites de uso y las condiciones sobre los datos. Un proceso que funciona hoy con una herramienta puede dejar de funcionar, o costar el doble, en seis meses.
Se controla vigilando esos cambios con una periodicidad fija, sabiendo qué procesos dependen de cada herramienta y teniendo identificada una alternativa para los críticos.
6. Uso sin reglas
Es el riesgo que contiene a los demás. Si nadie ha decidido qué herramientas se usan, para qué y con qué datos, cada persona decide por su cuenta. Al uso de IA que la empresa no conoce ni controla se le llama shadow AI o IA en la sombra, y suele ser la mayor parte del uso real.
El riesgo de la IA en una pyme no está en el algoritmo. Está en que nadie sepa quién la usa, para qué y con qué datos.
¿Qué es la gobernanza de la IA y cómo reduce esos riesgos?
La gobernanza de la IA son las reglas, los responsables y los controles con los que una empresa decide qué herramientas de IA se usan, para qué tareas, con qué datos, quién revisa los resultados y qué queda registrado. En una pyme no hace falta un comité ni un departamento: hace falta un inventario, una política corta, alguien que responda y una revisión periódica.
No es un invento de las grandes empresas ni de la normativa. Hay marcos de referencia que lo ordenan y que conviene conocer aunque no se apliquen enteros:
- El marco de gestión de riesgos de IA del NIST (AI RMF 1.0), publicado en enero de 2023, organiza el trabajo en cuatro funciones: gobernar, mapear, medir y gestionar. Es voluntario y gratuito.
- La norma ISO/IEC 42001:2023 fija los requisitos de un sistema de gestión de la IA y es certificable. Tiene sentido en empresas que desarrollan IA o a las que sus clientes se la piden; para la mayoría de pymes que solo la usan, es más útil como guía que como objetivo.
Lo que importa es la idea común a todos: no se puede controlar lo que no se conoce, y no basta con escribir reglas si nadie las aplica ni las revisa.
¿Cómo se monta la gobernanza de la IA en una pyme?
En cinco pasos, coordinados con tu asesor legal para lo que sea interpretación jurídica.
- Inventario de usos y herramientas. Qué herramientas de IA se usan, quién, para qué tarea y con qué datos. Incluye las cuentas personales y las funciones de IA que ya vienen activadas dentro de programas que usas, como el correo, el paquete ofimático o el CRM. Sin inventario, todo lo demás es opinión.
- Clasificación del riesgo. Para cada uso: ¿toca datos personales?, ¿sale el resultado fuera de la empresa?, ¿decide sobre personas?, ¿encaja en algún supuesto de alto riesgo? Eso decide qué control necesita.
- Política de uso y responsables. Qué herramientas están aprobadas, qué datos no entran, dónde hace falta revisión humana y quién aprueba una herramienta nueva. Corta y comprensible. Te contamos qué incluir en política de uso de IA en la empresa.
- Formación por perfiles. No es lo mismo quien redacta propuestas que quien revisa candidaturas o quien aprueba pagos. Formación práctica, ligada a la política, con registro de quién la ha recibido.
- Registro y revisión. Un registro de herramientas y usos aprobados, un canal para dar de alta usos nuevos y una revisión periódica, porque las herramientas y la normativa cambian cada pocos meses.
Un ejemplo ilustrativo: una empresa de servicios profesionales de 25 personas hace el inventario y descubre cinco herramientas de IA distintas, dos de ellas con documentos de clientes en cuentas personales y una función de IA activada en el CRM que nadie había revisado. Ninguno de esos usos es de alto riesgo. Pero tres de ellos tienen un problema de datos que se arregla en una semana con cuentas de empresa y una política de una página.
¿Quién debe responder de la IA en una pyme?
En una empresa pequeña o mediana no hace falta crear un puesto nuevo. Hace falta repartir cuatro papeles, que a menudo recaen en personas que ya existen:
| Papel | Qué hace | Quién suele ser |
|---|---|---|
| Dirección | Aprueba la política, decide qué usos se permiten y asume el riesgo | Gerencia o comité de dirección |
| Responsable de IA | Mantiene el inventario y el registro, aprueba herramientas nuevas según la política, organiza la formación y es a quien se pregunta | Una persona de operaciones, calidad, sistemas o administración, con tiempo asignado |
| Administración técnica | Configura cuentas, permisos, conectores y doble factor de las herramientas aprobadas | Sistemas, interno o proveedor externo |
| Asesoría legal y protección de datos | Valora los usos dudosos frente al RGPD y la Ley de IA | Tu asesor o tu delegado de protección de datos |
Lo que no funciona es que todos sean responsables, porque entonces no lo es nadie, ni que lo sea sistemas en solitario, porque la mayoría de decisiones sobre IA son de negocio y de datos, no técnicas.
¿Cómo saber si la gobernanza funciona?
No hace falta un cuadro de mando. Bastan unas preguntas que dirección puede hacer cada trimestre:
- ¿El inventario está al día y refleja lo que de verdad se usa?
- ¿Cuántas herramientas nuevas se han propuesto y cuánto se tardó en responder? Si nadie propone nada, probablemente el uso ha vuelto a la sombra.
- ¿Cuántas personas que usan IA han recibido la formación de su perfil?
- ¿Ha habido incidencias: datos donde no debían, errores que llegaron a un cliente? ¿Qué se cambió después?
- ¿Qué ha cambiado en las herramientas o en la normativa y qué hemos hecho al respecto?
Si esas preguntas tienen respuesta, la gobernanza existe. Si no, existe un documento.
Señales de alarma
- Nadie sabe decir cuántas herramientas de IA se usan en la empresa.
- Hay documentos de clientes en cuentas personales de asistentes de IA.
- Una herramienta decide o propone sobre personas, y nadie ha valorado si es un uso de alto riesgo.
- Textos generados con IA llegan a clientes sin revisión.
- La política de uso, si existe, no se ha revisado desde que se aprobó.
¿Gobernanza o gobierno de la IA?
Se usan los dos términos para lo mismo. Gobernanza es el más extendido en español y el que usan la normativa europea y el proyecto de ley español, el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, en tramitación en las Cortes a la fecha de este artículo según el Boletín Oficial de las Cortes Generales. En inglés se habla de AI governance. Lo relevante no es el nombre, sino que haya reglas, responsables y revisión.
¿Qué no es gobernanza de la IA?
Hay tres confusiones frecuentes que hacen perder tiempo y dinero:
- No es prohibir la IA. Prohibir sin ofrecer alternativa empuja el uso a la sombra. Lo útil es decidir qué se usa y cómo.
- No es un documento jurídico. La valoración legal de tus usos es de tu asesor o de tu delegado de protección de datos. La gobernanza es la parte de proceso: inventario, reglas, responsables, formación y registro. Las dos se necesitan.
- No es ciberseguridad. Se tocan, pero no son lo mismo. La seguridad protege los sistemas y los datos con medidas técnicas de ciberseguridad: cuentas, doble factor, copias, permisos. La gobernanza decide qué herramientas se usan y con qué reglas. Una empresa puede tener buenas contraseñas y ninguna regla sobre qué datos se pegan en un asistente.
¿Cada cuánto hay que revisarla?
Más a menudo que otras políticas de empresa. En un año pueden cambiar los modelos que usas, las funciones que el proveedor activa por defecto, los precios, las condiciones sobre tus datos y, como se ha visto en 2026, el calendario de la propia normativa. Proponemos tres ritmos:
- Cada mes: qué ha cambiado en las herramientas aprobadas y en la normativa que te afecta, y si exige alguna acción.
- Cada trimestre: revisión del inventario, usos nuevos, incidencias y formación pendiente.
- Cada vez que entra una herramienta nueva: clasificación y aprobación antes de usarla con datos reales.
Cómo lo trabajamos
En el servicio de gobernanza de la IA y acompañamiento hacemos contigo el inventario, la política de uso, el reparto de responsables y la formación por perfiles, y después te acompañamos cada mes con una nota de cambios regulatorios y de las herramientas que usas, y una revisión trimestral. No damos asesoramiento jurídico ni avisos en tiempo real: nos coordinamos con tu asesor y te decimos qué cambia y qué hacer.
La parte técnica, cuentas de IA seguras, doble factor, permisos y copias, va en seguridad de datos e IA. Y si lo que buscas es saber dónde aporta la IA en tus procesos, eso es IA aplicada. Las tres piezas juntas permiten usar la IA con criterio, con control y sin frenar al equipo.



