Deepfakes i continguts fets amb IA: com detectar-los

Actualitzat el novembre del 2026

Un deepfake és una imatge, un vídeo o un àudio creat o manipulat amb intel·ligència artificial perquè sembli real. Avui se’n poden fer amb eines a l’abast de tothom, així que val la pena saber reconèixer-los i, sobretot, no deixar-se pressionar.

Què són i per què importen

Els programes d’IA generativa poden crear cares, veus i escenes que no han existit mai, o fer que una persona real sembli dir o fer coses que no ha fet. No tot l’ús és dolent: s’utilitzen en cinema, doblatge o humor. El problema apareix quan es fan servir per enganyar.

Desinformació: vídeos falsos de polítics o personatges coneguts dient coses que no han dit.
Estafes: anuncis amb famosos que “recomanen” inversions, o trucades amb la veu clonada d’un familiar.
Violència contra persones: imatges sexuals falses creades a partir de fotos reals d’algú, sovint dones i adolescents.

Veu clonada i el “fill en problemes”

Amb pocs segons d’àudio d’una persona (un vídeo a les xarxes, un missatge de veu) ja es pot imitar la seva veu. Els estafadors ho aprofiten per trucar o enviar àudios fent-se passar per un fill, una néta o un amic: “He tingut un accident”, “m’han robat el mòbil”, “necessito que em facis una transferència ara mateix”.

Totes aquestes estafes tenen el mateix patró: urgència, emoció i diners. Per defensar-te’n no cal detectar si la veu és artificial. Només cal trencar el patró:

Penja i truca tu a la persona, al número que ja tens guardat.
Fes una pregunta que només ella podria respondre.
Acordeu en família una paraula clau per a emergències reals.
No facis cap pagament ni Bizum sota pressió, encara que la veu sembli idèntica.

Trobaràs més casos i què fer si ja has pagat a Estafes en línia.

Senyals d’alerta

Les eines milloren de pressa i cada vegada costa més veure errors a simple vista. Tot i així, encara apareixen sovint:

En imatges: mans amb dits de més o de menys, orelles o ulleres asimètriques, textos sense sentit en rètols, fons que es desfan, pell massa llisa.
En vídeos: llavis que no van del tot amb el so, parpelleig estrany, vores de la cara que tremolen quan la persona es gira, llum de la cara diferent de la del fons.
En àudios: to pla o sense respiracions, pauses en llocs estranys, soroll de fons que talla de cop.

Més útil que buscar errors és preguntar-se pel context: qui ho ha publicat primer? Ho recull algun mitjà fiable? Té sentit que aquella persona digui això, en aquell lloc i en aquell moment? Els passos de Verificar notícies i la cerca inversa de Fotos i vídeos continuen sent les millors eines.

Els detectors automàtics tenen límits

Hi ha serveis que prometen dir si un contingut és fet amb IA. Fes-los servir, si de cas, com una pista més, mai com un veredicte:

Donen percentatges de probabilitat, no certeses, i poden equivocar-se en totes dues direccions.
Funcionen pitjor amb imatges comprimides, retallades o reenviades moltes vegades, que són justament les que circulen per WhatsApp.
Cada nova versió dels generadors pot deixar desfasats els detectors entrenats amb les versions anteriors.

Què diu la Llei d’IA de la UE

El Reglament europeu d’intel·ligència artificial (conegut com a Llei d’IA) inclou, a l’article 50, obligacions de transparència:

Qui fa servir un sistema d’IA per generar o manipular un deepfake ha de fer saber que el contingut s’ha generat o manipulat artificialment. En obres clarament artístiques, satíriques o de ficció, n’hi ha prou d’indicar-ho d’una manera que no espatlli l’obra.
Els proveïdors de sistemes que generen àudio, imatge, vídeo o text sintètics han de marcar-ne els resultats en un format llegible per màquina, perquè es pugui detectar que són artificials.
Els sistemes que conversen amb persones han d’informar que són una IA, llevat que sigui evident.

2 d’agost de 2026Aplicació general de les obligacions de l’article 50
2 de desembre de 2026Termini per al marcatge llegible per màquina dels sistemes generatius que ja eren al mercat

Aquestes normes ajuden, però no ho resolen tot: qui vol enganyar no etiquetarà el seu contingut, i les marques es poden perdre quan algú retalla o torna a gravar una imatge. El sentit crític continua sent imprescindible.

Si et suplanten o fan un deepfake teu

No esborris res. Guarda enllaços, captures de pantalla amb data i el nom dels comptes que ho han publicat.
Denuncia-ho a la plataforma. Totes tenen opcions per notificar suplantacions d’identitat i contingut íntim no consentit. Consulta Denunciar continguts.
Si és contingut sexual o violent difós sense consentiment, pots demanar-ne la retirada urgent al Canal prioritari de l’Agència Espanyola de Protecció de Dades (AEPD). Les persones de 14 a 17 anys també hi poden acudir directament.
Demana orientació a la línia 017 d’INCIBE (gratuïta i confidencial, cada dia de 8 a 23 h; també per WhatsApp al 900 116 117).
Denuncia-ho a la policia si hi ha estafa, amenaces o contingut sexual: pots anar a una comissaria dels Mossos d’Esquadra demanant cita prèvia. Si hi ha un perill immediat, truca al 112.

Si l’afectat és un menor, o si el contingut és íntim, trobaràs recursos específics a Ciberassetjament.