La adopción de inteligencia artificial (IA) en entornos empresariales está creciendo a una velocidad que supera con creces la capacidad de muchas organizaciones para protegerla adecuadamente. Aunque la automatización y las capacidades avanzadas de los modelos de lenguaje han aportado eficiencia, también han introducido vectores de riesgo que escapan a los enfoques tradicionales de ciberseguridad. Según expertos del sector, existe una brecha significativa en la seguridad de la IA, en la que las empresas carecen de personal cualificado para anticipar y mitigar fallos específicos de estos sistemas complejos.

Este artículo explora en profundidad por qué los enfoques clásicos de seguridad ya no son suficientes para los entornos con IA, qué tipo de riesgos emergen de estas tecnologías y cómo las organizaciones pueden empezar a adaptarse. Con ejemplos concretos, cifras de estudios recientes y referencias clave, se proporciona una visión técnica pero accesible de un área crítica de la tecnología actual.

La brecha de talento en seguridad de IA

Sander Schulhoff, investigador especializado en seguridad de sistemas de IA y autor de una de las primeras guías de prompt engineering, señala que muchas empresas todavía dependen exclusivamente de sus equipos tradicionales de ciberseguridad para gestionar los riesgos asociados a la IA. Estos equipos están entrenados para encontrar y parchear bugs clásicos en software, pero no para comprender cómo modelos de lenguaje o sistemas generativos pueden ser manipulados a través de instrucciones indirectas o contextos lingüísticos específicos. En palabras de Schulhoff: “Puedes parchear un bug, pero no puedes parchear un cerebro”, refiriéndose a que los modelos de IA no fallan —ni se aseguran— de la misma manera que el software convencional.

La diferencia clave es que, mientras una vulnerabilidad de software tradicional suele tener una causa y un efecto técnicos claros (un desbordamiento de buffer, un acceso no autorizado por error en permisos, etc.), los sistemas de IA pueden comportarse de forma inesperada cuando reciben entradas de texto especialmente diseñadas para provocar respuestas indeseadas. Estos fallos pueden facilitar desde la generación de código malicioso hasta la divulgación no autorizada de datos sensibles. Un estudio publicado por Tenable indica que sólo el 26 % de las organizaciones realizan pruebas de seguridad específicas para IA, como red-team testing, dejando al resto reaccionando ante incidentes en lugar de prevenirlos.

Dicho talento especializado no sólo implica tener expertos en ciberseguridad y en machine learning, sino profesionales que entiendan los matices de los modelos de IA, desde la arquitectura interna de redes neuronales hasta las técnicas de entrenamiento y evaluación. Según un informe de 2025 de OpenSSF, el 40,8 % de las organizaciones luchan por encontrar expertos con experiencia en seguridad de IA y ciberseguridad a la vez, lo que refleja una laguna significativa en las capacidades actuales del mercado laboral.

¿Por qué los sistemas de IA son distintos?

Una de las diferencias más significativas entre la seguridad tradicional y la de los sistemas de IA radica en la no determinación de los outputs. En software tradicional, el código ejecuta operaciones concretas y predecibles dados ciertos inputs codificados. En los modelos de IA generativa, un mismo prompt puede producir respuestas distintas basadas en probabilidad y contexto aprendido durante el entrenamiento, lo que complica tanto el análisis de fallos como su mitigación.

Técnicamente, los modelos de lenguaje dependen de vectores de alta dimensión y atención por capas para procesar y generar texto. Esto significa que una variación sutil en el prompt puede llevar a un comportamiento radicalmente diferente. Por ejemplo, un modelo puede estar configurado para filtrar contenido no seguro, pero con un encuadre lingüístico adecuado, puede “saltarse” esos filtros y producir código o información que facilite actividades maliciosas. Estas vulnerabilidades relacionadas con prompt injection o manipulación de contexto son únicas de la IA y no se capturan bien en escáneres o herramientas de análisis estático de código tradicionales.

Además, la integración de IA en infraestructuras empresariales suele implicar múltiples APIs, almacenamiento en nube y modelos híbridos que comparten datos entre servicios. Cuando estos elementos no se aseguran adecuadamente —por ejemplo, cuando se conceden permisos excesivos a un modelo de IA para acceder a recursos internos— se incrementa dramáticamente la superficie de ataque. Según un análisis de IBM, el 97 % de las empresas que sufrieron brechas en sistemas de IA no contaban con controles de acceso específicos para esos entornos.

Consecuencias reales para las organizaciones

Los riesgos no son puramente teóricos. Datos recopilados en el S&P 500 muestran que el 65 % de las empresas del índice han integrado IA en procesos de negocio, pero esto ha venido acompañado de cientos de posibles vulnerabilidades, desde fugas de datos hasta output inseguro. Por ejemplo, se identificaron más de 200 incidencias potenciales relacionadas con output vulnerable en empresas tecnológicas que podrían exponer datos o permitir accesos no autorizados.

Asimismo, informes independientes sugieren que la mitad de las organizaciones han experimentado ya brechas de seguridad vinculadas a fallos de IA, y sólo un 14 % de CEOs considera que sus sistemas de IA protegen adecuadamente la información sensible. Estos problemas se agravan cuando la gestión de modelos y su monitorización no están centralizadas, creando lo que algunos analistas llaman shadow AI, donde sistemas autónomos funcionan sin visibilidad clara para el equipo de seguridad.

Uno de los riesgos más preocupantes es el uso de agentes de IA que operan con autonomía dentro de redes empresariales. Estos agentes pueden interactuar con sistemas internos de forma casi autónoma, lo que, sin una supervisión rigurosa, puede dar lugar a movimientos laterales no deseados o a actividades no registradas adecuadamente. Investigaciones en el área han destacado cómo un 30 % de las empresas no tienen catalogados los agentes de IA que acceden a sistemas críticos, generando puntos ciegos significativos en la seguridad. ecurity Planet

Hacia una postura de seguridad adaptada a IA

Enfrentar los riesgos de IA no consiste sólo en parchear modelos después de detectarse un fallo. Requiere una estrategia integrada que incluya:

• Inventario de modelos y agentes de IA: conocer qué sistemas se usan, dónde están desplegados y qué datos manejan.

• Controles de acceso específicos: aplicar políticas que limiten qué recursos pueden tocar los modelos de IA, con autenticación reforzada y permisos mínimos necesarios.

• Pruebas de seguridad adaptadas: más allá de escaneo estático, es necesario realizar pruebas de adversarial attacks, inyección de prompts y simulaciones de uso malicioso (red teaming).

• Formación especializada: equipos que combinen habilidades de ML, ciencia de datos y ciberseguridad para evaluar riesgos y mitigarlos integralmente.

Un caso notable es el del tratamiento de modelos en contenedores aislados para ejecutar cualquier código que genere la IA, reduciendo así el impacto de un output no deseado en el resto de los sistemas. Esta estrategia técnica requiere conocimientos profundos de contenedores, redes y modelos de IA.

Reflexiones finales

La rápida implantación de IA en entornos corporativos no debería sugerir que la seguridad puede abordarse con las mismas herramientas y enfoques que en la era pre-IA. Las diferencias fundamentales en cómo funcionan y fallan estos sistemas exigen una seguridad de IA específica, con personal entrenado y herramientas diseñadas para estas arquitecturas. A medida que continúe la digitalización y automatización de procesos con IA, la atención en la seguridad nativa y proactiva de estos sistemas será un factor clave para proteger datos, proteger la infraestructura crítica y garantizar la confianza de clientes y partes interesadas.

La llamada de expertos como Schulhoff no es una crítica sin más, sino una advertencia técnica: sin formar profesionales capaces de comprender y mitigar fallos propios de modelos generativos y sistemas autónomos, las empresas seguirán expuestas a vulnerabilidades que pueden tener consecuencias operativas y reputacionales profundas. El horizonte de seguridad de la IA ya está aquí, y las organizaciones que no se adapten estarán en desventaja frente a las amenazas que emergen con la misma rapidez que adoptan las tecnologías que buscan aprovechar.