La irrupción de la Inteligencia Artificial en el ámbito de los sistemas de información supone una revolución, pero también plantea una serie de riesgos. Vivimos en la era de lo “más rápido, más inteligente y más conectado”, pero debemos recordar que esa inteligencia también puede jugar en contra nuestra.

IA como herramienta de defensa… y de ataque

En el lado positivo, la IA ha permitido mejorar de forma notable la detección de amenazas, la rapidez de respuesta y la eficiencia operativa. Por eso ANIMSA la ha incorporado a los servicios de ciberseguridad que ofrece a las entidades locales.

La tecnología basada en IA permite analizar un volumen muchísimo mayor de logs y eventos frente a métodos tradicionales: https://electroiq.com/stats/ai-in-cybersecurity-statistics

Estos avances conducen a un escenario más seguro, o al menos con defensas más capaces. Pero lo que es válido para defender también lo es para atacar. En el lado oscuro:

• En 2025, aproximadamente el 16 % de todas las violaciones de seguridad involucraron a un atacante que usó IA: https://www.varonis.com/blog/cybersecurity-statistics
• Los ataques de phishing generados o adaptados con IA han crecido de forma explosiva, lo que reduce los tiempos de preparación y aumenta su eficacia.
• Se ha observado que los atacantes están usando IA para automatizar exploraciones vulnerables, escalando el volumen de ataques a niveles sin precedentes: https://whatsthebigdata.com/ai-cyber-attacks-statistics/

Así pues, la IA no es únicamente aliada: también es un arma en manos de quienes buscan vulnerar los sistemas.

Los riesgos de la IA cuando cae en malas manos

La inteligencia artificial se ha convertido en una gran aliada para muchas tareas, pero también en una herramienta que puede resultar peligrosa si se utiliza con malas intenciones. Gracias a su capacidad para automatizar procesos, los ciberdelincuentes pueden lanzar ataques mucho más rápido que antes, reduciendo al mínimo los tiempos de preparación. Esto deja menos margen de reacción a los equipos de defensa y obliga a contar con sistemas de monitorización y respuesta casi en tiempo real.

Además, los ataques se vuelven más creíbles y difíciles de detectar. La IA puede generar correos de phishing personalizados, crear vídeos falsos o desarrollar virus que cambian su forma para esquivar los sistemas de seguridad. En consecuencia, las defensas tradicionales se quedan cortas frente a estas nuevas técnicas.

Otro riesgo importante es el exceso de confianza. A veces se asume que, por ser inteligentes, las herramientas de seguridad basadas en IA son infalibles, pero no es así. La tecnología ayuda, pero la seguridad sigue dependiendo de las personas, de las buenas prácticas y de la supervisión constante.

También hay riesgos internos: cuando se utilizan herramientas de IA sin control o sin cuidar adecuadamente los datos y los accesos, aumenta la posibilidad de fugas de información o de un uso inadecuado de los sistemas.

¿Qué hacer para mitigar estos riesgos?

No basta con instalar herramientas de IA y asumir que todo estará resuelto. Es necesario adoptar una estrategia de seguridad integral, que combine tecnología, procesos y personas. Se recomienda:

• Establecer una estrategia de gobernanza de IA que contemple quién puede usar qué IA, para qué, con qué datos, con qué controles y auditorías.
• Adoptar el paradigma “prevención, detección y respuesta” (y la IA puede ayudar en cada fase, pero no sustituirla).
• Mantener defensas tradicionales reforzadas: autenticación fuerte, segmentación, monitorización, actualizaciones, buenas prácticas.
• Capacitar al personal para que reconozca que la IA también puede atacar: phishing más sofisticados, vídeos falsos, etc.
• Monitorizar, auditar y actualizar también los sistemas de IA: sus modelos, sus datos de entrenamiento, su evolución.
• Integrar la IA defensiva de forma coordinada con la organización: no solo como una herramienta más, sino como componente de la seguridad global.

En suma, la IA representa una oportunidad magnífica para reforzar la seguridad de los sistemas de información, aumentar la velocidad de detección de ataques, reducir el esfuerzo humano y mejorar la eficacia de los equipos de seguridad. Pero ese mismo poder puede ser utilizado por actores maliciosos para elevar su capacidad de ataque, automatizar y escalar sus operaciones, hacerlas más sigilosas y adaptativas.

Por tanto, en esta nueva etapa tecnológica, el reto no es solo adoptar IA: es hacerlo con conciencia, control y estrategia. Porque el mayor peligro no es que la IA exista, sino que exista sin gobernanza, sin formación, sin buenas prácticas y sin visión global.