En febrero de 2024, Microsoft y OpenAI publicaron algo que pocos esperaban leer en un informe oficial: grupos de hackers patrocinados por Rusia, China, Irán y Corea del Norte estaban usando ChatGPT para planificar y sofisticar sus operaciones de ataque. No era una hipótesis. Era un hecho confirmado por los propios creadores del sistema.
Desde entonces, los informes de ciberseguridad no han parado de acumular evidencias. Los ciberataques con inteligencia artificial no son ciencia ficción: son el presente de cualquier empresa que tenga activos digitales, correo corporativo o datos de clientes.
«La IA no crea nuevas capacidades de ataque, pero las democratiza. Cualquier actor con acceso a un modelo de lenguaje puede hacer lo que antes requería un equipo de especialistas.»
Qué tipo de ciberataques se están ejecutando con IA
Los análisis de los últimos 18 meses revelan un patrón claro. Estos son los usos más documentados de la IA en operaciones de ataque:
- Generación de malware personalizado: código malicioso adaptado a la infraestructura específica del objetivo, capaz de evadir antivirus convencionales
- Phishing hiperpersonalizado: correos que imitan el tono, el estilo y hasta el vocabulario interno de la empresa atacada, sin errores ortográficos ni señales de alerta clásicas
- Reconocimiento de vulnerabilidades: consultas automatizadas para identificar brechas en sistemas públicamente expuestos antes de lanzar el ataque
- Ingeniería social a escala: generación masiva de perfiles falsos y mensajes personalizados para manipular a empleados específicos
- Análisis de documentos técnicos: lectura e interpretación de manuales de seguridad y protocolos internos para encontrar puntos débiles explotables
Lo que hace diferente esta nueva generación de ataques no es la tecnología en sí. Es la velocidad y el coste de ejecución. Ataques que antes requerían semanas de trabajo especializado ahora pueden prepararse en horas.
Por qué esto afecta directamente a tu empresa, aunque no seas un objetivo obvio
Uno de los errores más comunes entre las pymes y medianas empresas españolas es pensar que los ciberataques van dirigidos a grandes corporaciones o infraestructuras críticas. La realidad es la contraria.
Los atacantes priorizan objetivos fáciles. Una empresa con sistemas sin actualizar, empleados no formados o procesos sin auditar es exactamente el tipo de blanco que los automatismos de IA encuentran y explotan en minutos. El tamaño ya no es un escudo.
- El coste medio de un incidente de ciberseguridad para una pyme europea superó los 87.000€ en 2024, según el informe ENISA
- El 74% de las brechas de datos en empresas medianas tiene su origen en un error humano —un clic en el email equivocado, una contraseña débil, un adjunto abierto
- Los ataques de phishing generados con IA tienen una tasa de éxito hasta 3 veces superior a los ataques tradicionales, según los datos de IBM Security
El «botón rojo» de la IA: por qué EE.UU. debate cómo apagarla en caso de emergencia
La escalada de incidentes no ha pasado desapercibida en las altas esferas. En los últimos meses, legisladores y agencias federales de Estados Unidos han puesto sobre la mesa una pregunta que hace apenas dos años parecía ciencia ficción: ¿qué ocurre si un sistema de IA se vuelve incontrolable o es utilizado de forma masiva para atacar infraestructuras críticas? ¿Existe algún mecanismo para detenerlo?
La respuesta, hoy por hoy, es que no existe nada parecido a un interruptor de emergencia universal. Y eso, según los expertos que asesoran al Congreso de EE.UU., es exactamente el problema.
«Necesitamos la capacidad de desconectar sistemas de IA de alto riesgo antes de que el daño sea irreversible. Sin ese mecanismo, la regulación es papel mojado.» — Informe del Senate AI Caucus, 2025
La propuesta que ha ganado más tracción en Washington se conoce informalmente como el «kill switch» para la IA o, con más precisión técnica, «mecanismos de interrupción de emergencia para sistemas de IA de alto riesgo». La idea es crear una infraestructura de control que permita a las autoridades federales —bajo condiciones muy específicas y con supervisión judicial— suspender o limitar el funcionamiento de modelos de IA que representen una amenaza activa a la seguridad nacional o a infraestructuras críticas.
Entre las propuestas concretas que se han debatido:
- Registro obligatorio de modelos de IA de alto riesgo ante una agencia federal, incluyendo documentación sobre sus capacidades ofensivas potenciales
- Requisitos de «apagado verificable»: los laboratorios de IA deberían demostrar técnicamente que sus modelos pueden desconectarse en menos de un tiempo determinado sin pérdida de control
- Auditorías de seguridad previas al despliegue para modelos capaces de generar código malicioso o estrategias de ciberataque
- Protocolos de respuesta ante incidentes que activen automáticamente restricciones sobre el modelo implicado si se detecta uso malicioso a gran escala
La Unión Europea, por su parte, ya ha incluido en el AI Act disposiciones específicas que obligan a los proveedores de sistemas de IA de alto riesgo a implementar funciones de supervisión humana que permitan «intervenir, anular o detener» el sistema. Es, en la práctica, una versión regulada del mismo concepto.
El debate revela algo más profundo: el mundo está empezando a reconocer que la IA ha pasado de ser una herramienta de productividad a ser una infraestructura crítica con riesgos comparables a los de las centrales eléctricas o los sistemas de comunicación. Y toda infraestructura crítica necesita un protocolo de emergencia.
El AI Act y la ciberseguridad: lo que ya es obligatorio para las empresas
El Reglamento Europeo de Inteligencia Artificial (AI Act) no habla solo de chatbots o algoritmos de contratación. Establece un marco de responsabilidad para cualquier organización que use, despliegue o desarrolle sistemas de IA —incluyendo los que afectan a la seguridad operativa.
Entre las obligaciones que ya están en vigor para las empresas europeas:
- Inventario y clasificación de riesgo de todos los sistemas de IA utilizados en la organización
- Formación obligatoria de los empleados que interactúan con IA, con especial atención a los perfiles con acceso a datos sensibles
- Transparencia en el uso de IA con clientes, empleados y proveedores
- Registro y auditoría de los sistemas de IA de alto riesgo
- Planes de respuesta ante incidentes que involucren sistemas de IA
Incumplir el AI Act no es solo un riesgo legal. Es también una vulnerabilidad de negocio: las empresas que no tienen sus procesos documentados son las que más tardan en responder cuando se produce un incidente y las que más daño acumulan.
¿Tu empresa sabe cómo cumplir con el AI Act?
El Reglamento Europeo de IA ya obliga a las empresas a auditar los sistemas de IA que usan, a clasificar su nivel de riesgo y a formar a sus equipos. En ENARTI te acompañamos para que cumplas la normativa con criterio, no con miedo.
¿No sabes si tu empresa está obligada? Descubre tu nivel de exposición.
Cómo actuar si quieres proteger tu empresa ahora mismo
No hace falta ser experto en ciberseguridad para tomar las primeras decisiones correctas. Lo que sí hace falta es entender el contexto en el que opera tu empresa y qué obligaciones ya recaen sobre ti.
Por dónde empezar:
- Audita qué herramientas de IA usa tu equipo, aunque sea de forma no oficial. ChatGPT en los ordenadores personales de tus empleados ya es un sistema de IA bajo el AI Act.
- Forma a tu equipo en detección de phishing adaptado a la nueva generación de ataques. Los patrones clásicos ya no sirven.
- Revisa tus contratos con proveedores tecnológicos: si procesan datos de clientes usando IA, tienes responsabilidad compartida.
- Consulta a un especialista en cumplimiento normativo de IA antes de que la regulación te alcance sin estar preparado.
La ciberseguridad con IA no es un problema técnico. Es un problema de conocimiento, procesos y cultura de empresa. Y la pregunta ya no es si tu empresa necesita prepararse: es si llegará a tiempo.