La guerra cognitiva potenziata dall’IA rappresenta una sfida senza precedenti
Le grandi potenze globali hanno sviluppato il concetto di Intelligentized Warfare, che integra l’intelligenza artificiale (IA) nella guerra cognitiva come parte della loro dottrina delle Tre Guerre: psicologica, di opinione pubblica e legale.
Questo tipo di azione bellica mira alla “dominazione mentale” dell’avversario mediante sistemi di monitoraggio psicologico intelligente, l’uso di grandi modelli linguistici per operazioni psicologiche e lo sviluppo della “confrontazione cognitiva”, con l’obiettivo di controllare i flussi di informazione.
La guerra cognitiva potenziata dall’IA rappresenta una sfida senza precedenti. La sua capacità di manipolare percezioni e comportamenti su scala massiva e personalizzata trascende i concetti tradizionali di conflitto, con impatti ancora non del tutto conosciuti sulla psiche umana.
Un deepfake (manipolazione profonda) è una forma molto elaborata di media sintetico che utilizza tecniche di IA e apprendimento automatico (ML) per fabbricare o manipolare audio, video o immagini dall’apparenza convincentemente reale.
Il termine proviene dalla fusione di deep learning (apprendimento profondo) e fake (falso). Queste falsificazioni possono spaziare dalla sostituzione di volti nei video, fino alla creazione di registrazioni audio o immagini completamente costruite.
Di conseguenza, possono rappresentare in modo convincente individui che dicono o fanno cose che in realtà non hanno mai detto o fatto, ed è sempre più difficile distinguerli dalle registrazioni autentiche.
L’IA ha la capacità di analizzare sentimenti ed emozioni in tempo reale, identificare bias cognitivi e creare narrazioni personalizzate rivolte a pubblici specifici. Inoltre, può automatizzare interamente campagne di disinformazione, generando contenuti, distribuendoli e misurandone l’impatto istantaneamente.
Immaginate di alterare il discorso di un dirigente politico o di un capo militare, in modo che differisca diametralmente dalla sua versione originale.
L’evoluzione di questa tecnologia è stata vertiginosa. Tra il 2023 e il 2024, gli incidenti di manipolazione profonda sono aumentati del 245% su base annua. Allo stesso modo, essa è stata utilizzata per danneggiare la reputazione di persone, istituzioni e governi. Solo contro il presidente del Venezuela, Nicolás Maduro, sono stati conteggiati più di mille video falsi dall’inizio dell’anno.
Forse uno dei danni più significativi che provoca è il cosiddetto “dividendo del bugiardo”, che permette ad attori malintenzionati di negare prove reali delle proprie azioni, sostenendo che un contenuto autentico sia in realtà un deepfake.
La risposta efficace a questa nuova forma di guerra richiede un approccio integrale che combini progressi tecnologici nella rilevazione, quadri normativi adattivi, cooperazione internazionale e, fondamentalmente, educazione pubblica sui rischi e le caratteristiche di questi media.
La guerra que no se ve: deepfakes y manipulación masiva
La guerra cognitiva potenciada por la IA representa un desafío sin precedentes
Raúl Antonio Capote
Las grandes potencias globales han desarrollado el concepto de Intelligentized Warfare, que integra la inteligencia artificial (IA) en la guerra cognitiva como parte de su doctrina de las Tres Guerras: sicológica, de opinión pública y legal.
Este tipo de acción bélica busca la «dominación mental» del adversario mediante sistemas de monitoreo sicológico inteligente, el uso de grandes modelos de lenguaje para operaciones sicológicas, y el desarrollo de la «confrontación cognitiva», con el fin de controlar los flujos de información.
La guerra cognitiva potenciada por la IA representa un desafío sin precedentes. Su capacidad para manipular percepciones y comportamientos a escala masiva y personalizada trasciende los conceptos tradicionales de conflicto, con impactos aún desconocidos en su totalidad para la sique humana.
Un deepfake (manipulación profunda) es una clase muy elaborada de medio sintético que utiliza técnicas de la ia y aprendizaje automático (ml) para fabricar o manipular audio, video o imágenes de apariencia convincentemente real.
El término proviene de la mezcla de deep learning (aprendizaje profundo) y fake (falso). Estas falsificaciones pueden ir desde la suplantación de caras en videos, hasta la creación de grabaciones de audio o imágenes totalmente construidas.
En consecuencia, pueden representar de manera convincente a individuos diciendo o haciendo cosas que nunca realizaron, y cada vez son más difíciles de distinguir de las grabaciones auténticas.
La IA tiene la capacidad de analizar sentimientos y emociones en tiempo real, identificar sesgos cognitivos y crear narrativas personalizadas dirigidas a audiencias específicas. Además, puede automatizar por completo campañas de desinformación, generando contenido, distribuyéndolo y midiendo su impacto al instante.
Imaginen alterar el discurso de un líder político o un jefe militar, de tal modo que difiera diametralmente de su versión original.
La evolución de esta tecnología ha sido vertiginosa. Entre 2023 y 2024, los incidentes de manipulación profunda aumentaron un 245 % interanual. De igual forma, se ha utilizado para dañar la reputación de personas, instituciones y gobiernos. Solo contra el presidente de Venezuela, Nicolás Maduro, se han contabilizado más de mil videos falsos en lo que va de año.
Quizás uno de los daños más significativos que provoca sea el conocido como «dividendo del mentiroso», que permite a actores maliciosos negar evidencia real de sus acciones, alegando que un contenido auténtico es en realidad un deepfake.
La respuesta efectiva a esta nueva forma de guerra requiere un enfoque integral que combine avances tecnológicos en detección, marcos regulatorios adaptativos, cooperación internacional y, fundamentalmente, educación pública sobre los riesgos y características de estos medios.
