Defensa sitúa el control humano y la soberanía tecnológica en el centro de su estrategia de IA militar

La II Jornada de Inteligencia Artificial Responsable reunió en Soria a Defensa, industria, universidad y centros de investigación para avanzar en aplicaciones seguras de IA, desde la ciberdefensa hasta el análisis predictivo y la simulación operativa.

El Ministerio de Defensa ha colocado el control humano, la soberanía tecnológica y la gobernanza segura de los datos en el centro de su aproximación a la inteligencia artificial aplicada al ámbito militar. La secretaria de Estado de Defensa, María Amparo Valcarce, inauguró el 22 de septiembre en el Palacio de la Audiencia de Soria la II Jornada de Inteligencia Artificial Responsable en el Ámbito Militar, un foro de dos días orientado a trasladar el debate sobre IA responsable a capacidades concretas para las Fuerzas Armadas.

El encuentro, organizado por la Secretaría de Estado de Defensa a través del Centro de Sistemas y Tecnologías de la Información y las Comunicaciones (CESTIC), junto con Ingeniería de Sistemas para la Defensa de España (Isdefe), congrega a representantes del Ministerio, la industria tecnológica y de defensa, universidades, centros de investigación e instituciones nacionales. Su propósito es acelerar la gobernanza y el uso responsable de esta tecnología en Defensa, reforzando al mismo tiempo la capacidad española para desarrollar y operar herramientas propias.

Durante la inauguración, Valcarce subrayó que el desafío no reside únicamente en incorporar sistemas de inteligencia artificial, sino en hacerlo “con responsabilidad, con garantías y con una visión estratégica”. La secretaria de Estado defendió que la progresiva autonomía de los sistemas tecnológicos obliga a preservar una supervisión humana efectiva, especialmente en aquellos procesos que puedan tener implicaciones operativas, jurídicas o éticas.

La cuestión del control humano cobra especial relevancia a medida que la IA gana peso en funciones como la fusión y tratamiento de grandes volúmenes de información, la detección de patrones, el apoyo a la decisión, la automatización de procesos logísticos o la ciberdefensa. El objetivo no es sustituir la responsabilidad del mando militar, sino proporcionar herramientas que permitan procesar con mayor velocidad información compleja y ofrecer opciones de decisión más fundamentadas en escenarios exigentes.

En ese contexto, la jornada de Soria plantea la inteligencia artificial como una capacidad transversal. Su aplicación puede afectar tanto a la protección de redes y sistemas de información como al mantenimiento predictivo, la simulación y el adiestramiento, la gestión de recursos, el análisis de inteligencia o la ayuda a la toma de decisiones. La condición que plantea Defensa es que dichas aplicaciones estén sujetas a mecanismos de evaluación, trazabilidad, seguridad y control humano adecuados a su nivel de criticidad.

La soberanía del dato constituye uno de los ejes centrales de la cita. Bajo el título “La guerra del dato”, una de las mesas de debate aborda el valor estratégico de la información y la necesidad de disponer de herramientas nacionales confiables. En el ámbito de la defensa, la dependencia tecnológica no se limita al software o a los modelos de IA: afecta también a la disponibilidad, integridad, clasificación, custodia y explotación de los datos que alimentan esos sistemas.

La calidad del dato es un elemento decisivo para la fiabilidad de cualquier algoritmo. Un sistema basado en información incompleta, sesgada, manipulada o no actualizada puede generar resultados erróneos, por muy avanzada que sea su arquitectura tecnológica. De ahí que la apuesta por una IA responsable implique establecer procedimientos de validación, auditoría y seguimiento durante todo el ciclo de vida de las capacidades: desde la recopilación y preparación de datos hasta el despliegue operativo y la revisión posterior de sus resultados.

La jornada también pone el foco en la creación de capacidades industriales propias. El Ministerio busca que la colaboración entre Defensa, empresas tecnológicas, universidades y centros de investigación no se quede en el intercambio de conocimiento, sino que se traduzca en herramientas, metodologías y productos utilizables. La participación de Isdefe refuerza ese enfoque de ingeniería, integración y acompañamiento a las necesidades tecnológicas de la Administración de Defensa.

La conexión con el entorno académico es el segundo gran eje del encuentro. Un panel específico está dedicado al desarrollo de estándares de evaluación y a la formación del personal militar ante el cambio doctrinal que representa la IA. La capacitación será determinante para que los usuarios comprendan las posibilidades, limitaciones y riesgos de las herramientas que empleen. La inteligencia artificial no elimina la necesidad de criterio profesional; por el contrario, exige operadores, analistas y mandos capaces de interpretar resultados, detectar anomalías y decidir cuándo una recomendación automática no debe seguirse.

El ámbito militar requiere además sistemas robustos frente a condiciones adversas. Las soluciones de IA deben ser capaces de funcionar en entornos con comunicaciones degradadas, datos incompletos, amenazas cibernéticas, intentos de engaño o cambios rápidos en la situación operativa. A ello se añaden exigencias de interoperabilidad con aliados, protección de información sensible y compatibilidad con los marcos normativos nacionales e internacionales.

En Soria se exponen también casos de uso prácticos relacionados con automatización, ciberdefensa y toma de decisiones asistida. Este último campo concentra buena parte de la atención en los debates sobre IA militar: un sistema puede ayudar a priorizar alertas, identificar tendencias, simular alternativas o anticipar necesidades, pero la decisión y la responsabilidad última deben permanecer bajo supervisión humana. El principio busca prevenir que una recomendación generada por un algoritmo se convierta, por inercia, en una decisión no cuestionada.

La celebración de estas jornadas se vincula a las líneas de trabajo internacionales sobre IA responsable en el ámbito militar y al proceso REAIM —Responsible AI in the Military Domain—, en el que España quiere reforzar su participación. El foro de Soria se concibe como un espacio para consolidar una posición nacional que combine innovación, seguridad, autonomía tecnológica y respeto a principios de uso responsable.

La clausura del encuentro, prevista para el 23 de septiembre, incluirá una sesión de trabajo destinada a extraer conclusiones estratégicas para los próximos pasos del Ministerio en la integración de la IA corporativa. Más allá de las demostraciones y los debates, el reto será convertir esos principios en procesos verificables, capacidades sostenibles y una cultura organizativa que permita emplear la inteligencia artificial sin perder el control de las decisiones críticas.