La democratització de la tecnologia ha fet que la creació i distribució d’informació enganyosa sigui un problema global; un repte per a periodistes, plataformes, governs i per a tots i cadascun de nosaltres. Això genera un problema afegit: la desconfiança en la tecnologia en general.
La fotografia va assumir al segle XIX el paper de notari de la realitat que fins llavors ostentava la pintura. Als anys 80 del segle passat, l’arribada de l’ordinador personal i de l’edició digital, va posar en crisi la funció notarial de la fotografia; qualsevol podia alterar una imatge. Reputats dissenyadors i il·lustradors d’aquest país van començar la seva carrera millorant digitalment cossos de senyores per a revistes pornogràfiques.
Avui, aquells retocs d’imatge que comportaven interminables hores de treball manual els fa el mòbil en temps real. Quan ens fem una selfie els algorismes d’IA analitzen la nostra cara, en detecten les característiques, n’elaboren un mapa 3D i, sense que ens n’adonem, ens fan la pell més fina, els ulls més grossos i els llavis més molsuts. Avui ser lleig ja no és una opció.
I com passa en biotecnologia, la frontera entre allò que és ètic i allò que no, és molt difusa. Per què quedar-nos només en un filtre que ens rejoveneixi? Per què no portar la ficció fins al final i posar-nos la cara del George Clooney o de la Judit Mascó? La IA que ho permet està disponible a internet i qualsevol pot crear un vídeo d’algú amb la cara d’algú altre fent alguna cosa que no ha fet mai. És el que es coneix com a deepfakes i Youtube n’és ple amb protagonistes com Obama, Putin i Trump.
La setmana passada l’informàtic teòric i punkie alemany d’origen taiwanès Hao Li en va parlar al WEF de Davos. A la seva conferència [“Deepfakes: no et creguis tot el que veus”], explicava com els deepfakes són indetectables i que sol fet que n’existeixi la tecnologia ja és pertorbador per se, ja que permet que algú pugui mentir sobre fets capturats en vídeo amb l’excusa de que és un deepfake, un fenomen conegut com “el dividend del mentider”. Posava com a exemple la suposada aparició del governador de Sao Paulo Joao Doria en el vídeo d’una orgia que el polític qualificava de deepfake. Ningú no ha pogut provar que no ho fos.
La frontera entre allò que és ètic i allò que no, és molt difusa. Per què quedar-nos només en un filtre que ens rejoveneixi?
El tema de la (des)confiança en la tecnologia també va ser present a la xerrada que l’historiador Yuval Noah Harari i el president de Huawei Ren Zhenfei van mantenir al voltant de la hipòtesi d’un futur marcat per una cursa per la tecnologia. Zhenfei deia sobre les armes autònomes: “Si tothom pot produir armes autònomes, són com un bastó; ja no són armes”.
El mateix podem dir dels deepfakes: “Si tothom pot construir el seu deepfake amb el seu aspecte físic ideal, és com un bastó; l’aspecte físic deixa de ser rellevant”. El revers lluminós de la tecnologia.
