El debate que ha dado origen a este artículo tiene un nombre concreto: Jacob Coxon, un profesional de 27 años que abandonó su puesto en Anthropic tras solo dos meses, denunciando que la presión por avanzar rápido en el desarrollo de IA estaba por encima de las consideraciones de seguridad. Su historia, recogida por Business Insider y Wall Street Journal, se viralizó cuando se conoció también la declaración de Evan Hubinger, investigador de seguridad de Anthropic que estimó públicamente en más de un 10% la probabilidad de consecuencias catastróficas derivadas de una IA no supervisada. Esta sucesión de hechos convierte la automatización de procesos con IA en un tema que ya no puede abordarse sin criterio claro.
Cuando los propios investigadores de seguridad de las empresas que desarrollan IA empiezan a abandonar sus puestos y lanzar advertencias públicas, el mundo empresarial no puede mirar hacia otro lado. El debate generado tras las declaraciones de Evan Hubinger, que estimó en más del 10% la probabilidad de consecuencias catastróficas derivadas del desarrollo no controlado de IA, ha encendido una pregunta que muchas empresas llevan tiempo evitando: ¿cómo integrar la automatización de procesos con IA de forma verdaderamente responsable?
El contexto que toda empresa debe conocer antes de seguir
El debate no es solo académico. Jacob Coxon, un profesional que dejó su puesto en una empresa líder de IA tras apenas dos meses, señaló que la presión por avanzar rápido estaba por encima de las consideraciones de seguridad. Esta tensión entre velocidad de adopción y criterio es exactamente la que enfrentan las empresas que hoy automatizan sus procesos operativos con IA.
La pregunta que deberían hacerse no es si automatizar con IA, sino cómo hacerlo con criterio. Y aquí es donde la mayoría de empresas están fallando: implementan herramientas sin haber formado a sus equipos, sin haber definido protocolos de supervisión humana y sin haber evaluado los riesgos específicos de cada proceso que automatizan.
Lo que distingue a las empresas que automatizan bien
Las empresas que están integrando la automatización de procesos con IA de forma sostenible no son necesariamente las más grandes, sino las más organizadas. Comparten varios rasgos comunes:
- Forman a sus equipos antes de automatizar. No solo enseñan a usar las herramientas: desarrollan criterio crítico sobre cuándo y cómo usarlas.
- Definen qué procesos no deben automatizarse. Las decisiones que afectan directamente a personas —contratación, evaluación de rendimiento, créditos— se revisan con cuidado especial.
- Mantienen supervisión humana activa. Los procesos automatizados se revisan periódicamente para detectar sesgos, errores sistemáticos o comportamientos inesperados.
- Documentan y auditan. Llevan registro de qué decisiones toma el sistema de IA y con qué criterios, lo que facilita tanto la detección de problemas como el cumplimiento regulatorio.
El error más común: automatizar sin formación previa
Uno de los mayores riesgos en la automatización de procesos con IA no viene de la tecnología en sí, sino de los equipos que la utilizan sin el conocimiento suficiente. Un empleado que confía ciegamente en el output de un sistema de IA puede generar errores que se propagan a toda la organización sin que nadie los detecte a tiempo.
Las pymes españolas que están adoptando herramientas de automatización —desde gestión de correos hasta análisis de datos o atención al cliente— sin haber establecido protocolos mínimos de revisión están asumiendo un riesgo real y, en muchos casos, innecesario. No es un problema de tamaño: es un problema de preparación.
5 pasos para una automatización de procesos con IA responsable
Si tu empresa está en proceso de integrar o ampliar la automatización con IA, estos pasos deben preceder a cualquier implementación:
- Inventario de procesos candidatos: Identifica tareas repetitivas con criterios bien definidos. Esos son los mejores candidatos para automatizar.
- Evaluación de riesgos por proceso: Para cada proceso, pregunta: ¿qué pasa si el sistema comete un error? ¿Quién lo detectaría? ¿Cuál sería el impacto real?
- Formación antes del despliegue: Todo el equipo que interactúe con el sistema automatizado debe entender sus limitaciones, no solo sus capacidades.
- Piloto controlado: Implementa primero en un entorno limitado, mide resultados durante 4-8 semanas y ajusta antes de escalar.
- Revisión continua: Establece revisiones periódicas (mínimo trimestrales) para detectar deriva en el comportamiento del sistema.
La formación como ventaja competitiva real
Hay un argumento económico que muchas empresas todavía no han calculado: las empresas cuyos equipos están bien formados en IA cometen menos errores en la implementación, adaptan más rápido las herramientas a su contexto y obtienen mejores resultados con menor inversión. La formación no es un coste adicional: es la condición para que la automatización funcione.
Mientras el debate global sobre los riesgos de la IA continúa, las empresas que mejor se posicionan son las que no esperan a que llegue la regulación para actuar con responsabilidad. La automatización de procesos con IA es ya una realidad irreversible. La pregunta es quién la lidera con criterio y quién simplemente reacciona.
¿Tu empresa ya tiene un plan de formación en IA para el equipo que gestiona los procesos automatizados? En ENARTI ayudamos a empresas a implementar la automatización con IA de forma ordenada y segura, con programas de capacitación certificados y metodología contrastada.