Quan la IA és el filtre: qui decideix què és cert?
Reflexió sobre el risc de delegar el criteri a les IA. Quan la mateixa eina que crea informació falsa esdevé la que la detecta, què passa amb l'autoritat cognitiva humana?
Hi ha una paradoxa nova que val la pena mirar amb calma. Les mateixes IA que generen deepfakes convincents són, ara, les que ens ofereixen com a eina per detectar-los. Els detectors de deepfakes utilitzen IA. Els verificadors de text generat s’entrenen amb text generat. Vivim un moment on el productor i l’auditor són el mateix tipus de tecnologia.
Què significa això per a la formació del criteri dels nostres alumnes? I, més fondament: qui decideix què és cert quan la decisió la pren una màquina?
La delegació invisible
Quan un alumne fa clic a un detector de deepfakes i rep un veredicte «imatge generada amb IA — probabilitat 87%», una cosa subtil ha passat. Ja no está pensant; está delegant. El criteri humà —veure si els ulls són estranys, si la llum no quadra, si la font és creïble— s’ha reemplaçat per un número.
Aquesta delegació no és automàticament dolenta. Els humans hem delegat sempre: en mapes en comptes de brúixoles, en calculadores en comptes de fer operacions de cap, en enciclopèdies en comptes de recordar-ho tot. La pregunta és què passa quan la delegació és invisible, contínua i es pot equivocar subtilment.
Hi ha un risc concret: que els joves que creixen amb aquestes eines no desenvolupin el múscul del dubte. El múscul només es forma quan el fem servir. Si cada vegada que una informació sembla estranya recorrem a un detector, el múscul s’atrofia.
Qui entrena els detectors
Hi ha una segona capa. Els detectors no cauen del cel. Són eines desenvolupades per empreses, finançades per models de negoci, i entrenades amb conjunts de dades que algú ha decidit. Delegar el veredicte a un detector no és delegar a «la tecnologia»; és delegar a la companyia que fa el detector.
Això no ho diem amb paranoia: ho diem amb precisió. Un detector de deepfakes d’OpenAI, de Google, o d’una startup xinesa pot tenir biaixos diferents sobre què considera sospitós, quins rostres reconeix millor, quines fonts marca com a més fiables. La «veritat» que emeten no és neutra.
L’autoritat cognitiva —la capacitat de dir què és cert— s’està privatitzant silenciosament. Abans la decidien institucions amb membres visibles, amb processos consultables, amb deontologies. Ara, en part, la decideix un algoritme dins d’una caixa negra.
La mateixa tecnologia, dues cares
El més vertiginós és la circularitat: la IA genera imatges; la IA les detecta. I els que detecten s’entrenen amb els que generen, de manera que cada millora en generació produeix una millora en detecció i a la inversa. És una cursa armamentística autosostinguda on els humans som observadors.
A l’aula aquesta dinàmica es manifesta de forma estranya: els alumnes veuen que les eines de detecció es «posen al dia». La seva confiança es redueix. Acaben pensant que no hi ha manera humana de saber res. Això és cinisme epistemològic, i és pitjor que el rigor perdut; és la renúncia a cercar la veritat.
Què pot fer l’escola
No podem aturar la tecnologia ni caure en el romanticisme. Però podem, a l’aula, fer tres coses:
Primera: mantenir les eines humanes vives. Ensenyar a rastrejar fonts manualment, a fer verificació creuada, a llegir el context. Abans de recórrer al detector, intentar-ho amb el propi cervell. El detector queda com a última instància, no com a primera.
Segona: fer visible la caixa negra. Quan un alumne fa servir un detector, que sàpiga qui l’ha fet, amb què s’ha entrenat i quines són les seves limitacions conegudes. Aquesta transparència és part del pensament crític contemporani.
Tercera: cultivar la tolerància a la incertesa. No tot es pot saber amb certesa. A vegades només podem dir «sembla probable que…». Aprendre a viure amb aquest llenguatge de probabilitats, sense caure ni al cinisme ni al dogmatisme, és la gran competència del segle XXI.
Una pregunta que cal mantenir oberta
Els nostres alumnes viuran la major part de la seva vida en un món on no sempre serà clar què és real. Això no és automàticament catastròfic: sempre hem viscut entre relats, mites i interpretacions. El que és nou és la velocitat i l’escala amb què la IA pot produir indiferenciables.
La pregunta que hauríem de mantenir oberta a les nostres aules no és «com saber si una imatge és falsa». És una altra, més profunda: com mantenim el discerniment humà com a valor, encara que les màquines puguin imitar-lo? La resposta no és tecnològica. És cultural, és educativa, és política en el sentit ampli.
Per això ensenyar pensament crític avui no és un tema didàctic entre d’altres. És la forma més concreta de protegir alguna cosa preuada: la capacitat humana de dubtar, deliberar i decidir. Si perdem aquest múscul, guanyarem eficiència i perdrem autonomia.
Si vols eines concretes per mantenir aquest múscul actiu, revisa la guia d’entrenament del pensament crític i les 10 activitats de deepfakes. El criteri es construeix cada dia, una petita decisió alhora.