Ever és una aplicació mòbil que classifica les fotos per esdeveniments, llocs i persones que hi surten, i en fa còpies de seguretat al núvol. “Crea records (…) La vida és connectada, la vida és compartida; fem fàcil compartir els records amb els que més t’importen”, expliquen a EverAlbum.com. Aquesta era la seva proposta de valor quan al 2013 era una startup més de San Francisco.
Al 2017 l’empresa va decidir que el negoci del reconeixement facial era molt més lucratiu que el del núvol. Sense notificar els usuaris ni canviar els termes de servei van decidir utilitzar els milers de milions de fotos que els usuaris havien pujat a la plataforma (13 mil milions avui) per entrenar un sistema de reconeixement facial. Cada cop que un usuari activa la identificació de persones a l’aplicació per a que agrupi automàticament les fotos on hi surt una persona determinada, el que fa Ever és aprendre de les coincidències i entrenar els seus sistemes de reconeixement facial.
Però aquest aprenentatge no només beneficia els usuaris —classifica millor les fotos dels coneguts— sinó que beneficia també empreses privades, agències de seguretat i organitzacions militars. En el cas d’Ever ho podeu comprovar visitant el web Ever.AI on es vanten de ser “El sistema de reconeixement facial més acurat dels EUA amb un 99,84% d’encert” per a “vigilància i monitorització, accés físic i autenticació digital (…) basat en un dels conjunts etiquetats de dades propietàries més grans i més diversos del món”. Cap menció a crear records, ni a compartir-los, ni a les persones que més t’importen, que és al cap i a la fi d’on surt el seu conjunt de fotos.
Només Ever? Amazon el 2016 va comprar Orbeus el propietari d’una aplicació similar anomenada PhotoTime per tancar-la poc després. Segons un ex-treballador, Amazon la va comprar pels milions de fotos amb gent en espais públics en situacions diverses. Amazon comercialitza Rekognition, un altre producte d’identificació facial original d’Orbeus, que ven a agències de seguretat públiques i privades.
RealNetworks —la del famós reproductor de vídeo dels 90s— és avui una empresa de solucions de seguretat basada en sistemes intel·ligents de reconeixement facial. Un dels seus serveis és el del reconeixement facial de mainada, que ven a escoles i instituts. RealNetworks també té RealTimes, una aplicació que permet fer vídeos amb les fotos del mòbil i compartir-les amb els nostres contactes. No voldria ser malpensat.
Al gener, IBM va alliberar un conjunt de dades anomenat DiF (Diversity in Faces), una col·lecció d’un milió de fotos de persones, anotades d’acord amb diferents variables com el color de la pell, l’edat, el gènere, la forma de la cara i la postura. El DiF és un conjunt divers de cares destinat a recerca acadèmica en reconeixement facial per a combatre les mancances i els biaixos dels sistemes actuals. IBM no té cap aplicació per a recollir cares, ni ha comprat cap empresa amb milions de fotos; per a crear el seu conjunt de dades de cares, IBM va polir els 100 milions de fotos de Flickr que Yahoo va alliberar el 2014 per a recerca.
IBM ha rebut les crítiques del Sindicat Americà pels Drets Civils (ACLU). Amb motiu dels atemptats de les Torres Bessones a Nova York, IBM havia proveït la policia de Nova York amb la tecnologia capaç d’analitzar vídeos de càmeres de seguretat basats en criteris ètnics. El mateix ACLU va demostrar amb un experiment pràctic els riscos de basar decisions vitals en tecnologies que no coneixem prou i de les que no en sabem preveure l’impacte social. Amb el sistema Rekognition d’Amazon van comparar les fotos de tots els membres del Congrès dels EUA amb les de les fitxes policials de 25.000 criminals. El resultat va ser de 28 congressistes identificats com a criminals amb una confiança del 80%. El tuit del congressista Jimmy Gomez dient-li a Jef Bezos “Hem de parlar JA!” en resum la magnitud de la tragèdia.
Si aquest estiu passeu per Kaixgar, la capital uigur, a la regió autònoma de Xinjiang a Xina, us adonareu que botigues, forns, bars i carrers són plenes de càmeres de seguretat. Un reportatge recent del NYT mostrava com en uns cent metres de carrer se n’hi podien comptar fins a vint. També us trobareu cues d’uigurs i d’altres minories ètniques obligades a passar per cabines de reconeixement facial, i com la policia requereix el mòbil aleatòriament als ciutadans per comprovar si hi porten instal·lades les aplicacions obligatòries de monitoratge i seguiment.
Els sistemes d’aprenentatge automàtic necessiten milions de fotos de cares per entrenar-se per a fer reconeixement facial. Nosaltres amb les nostres apps en som els seus proveïdors.
L’empresa que fa possible aquest control és l’empresa xinesa SenseNets. El hacker i fundador de l’ONG GDI.Foundation Victor Gevers, va poder accedir a les bases de dades de l’empresa al febrer sense massa esforç: les dades eren als seus servidors accessibles per a tothom! El Victor va publicar una sèrie de tuits amb el que hi va trobar; informació de més de 2,5 milions de persones amb les seves fotos, noms, número de carnet, edat, gènere, adreça, lloc de feina i tots els llocs on havien estat les darreres 24 hores.
Tenim a la nostra cara una tecnologia amb un potencial transformador social del que no ens en podem fer capaços. Les tecnologies de reconeixement facial s’apliquen ja a camps com els de l’entreteniment, el lleure, la salut o la recerca, però on hi ha més mercat és en la identificació personal i la seguretat, àmbits que ens garanteixen els nostres drets civils i que són a la base de la democràcia liberal. Si no ho fem bé podem perdre uns i altra. I no cal viatjar al futur de Black Mirror o al de Years and Years, viatjar en l’espai és sovint també una manera de viatjar en el temps.
