Sessió 4: Somien les màquines amb il·lusions visuals?
Eixos temàtics de la sessió:
Sobre la sessió:
En aquesta sessió farem una breu introducció a la percepció visual humana fent servir les il·lusions visuals (errors en la percepció) com a vehicle. Mitjançant il·lusions d'intensitat, color, espai, etc., mostrarem a l'audiència que el que entenen per "realitat" és només un model que el cervell humà ha creat del món i no la realitat. Després, ens centrarem en les xarxes neuronals artificials (base de la intel·ligència artificial moderna) per comprovar en què s'assemblen i diferencien de la percepció visual humana; i respondrem preguntes com: Pot un sistema artificial veure el món com els éssers humans? Les màquines també perceben il·lusions visuals? Les màquines han de veure el món com nosaltres?
Finalment, la presentació acabarà mostrant un dels punts febles de la intel·ligència artificial moderna: els atacs adversaris, una conseqüència de la manca de similitud amb la percepció humana però també com podem utilitzar-ho per al nostre benefici amb l'anomenada "programació adversària".
En la sessió lliurarem a cada assistent un petit paquet d'il·lusions visuals impresses amb les quals podran explorar en més profunditat els errors en la percepció visual humana. A més, incloem en el paquet un petit patró d'interferència que servirà per evitar ser detectat (com a atac adversari) per un petit sistema de detecció de rostres.
Els assistents tindran l'oportunitat de participar en discussions, fer preguntes i aprendre sobre els últims avenços en percepció, atacs adversaris i la programació adversària, i les seves aplicacions en videovigilància.
El dia 31 de maig, vam gaudir d’una sessió molt familiar a la Biblioteca Marc de Vilalba, Cardedeu. En aquesta ocasió, vam explorar de manera interactiva la percepció visual que pot tenir un sistema de intelligència artificial (IA) i, entre d’altres, ens vam plantejar la pregunta, pot una màquina equivocar-se en la seva percepció de la realitat?
Durant la sessió:
Alexandra Gómez-Villa, estudiant de doctorat del Centre de Visió per Computador (CVC), va contextualitzar la temàtica de la sessió introduint als assistents al món de la IA i la percepció visual explicant com veuen les màquines, què és l'aprenentatge automàtic i què és la programació adversària.
L'equip d'innovació del CVC, juntament amb l’Alex, han desenvolupat un parell de demostracions tecnològiques que ens van permetre experimentar i entendre millor els conceptes de la sessió d’una manera molt pràctica. Richard Segovia i Albert Romero, enginyers de recerca del centre, dinamitzaven ahir aquestes demostracions tecnològiques on els assistents van poder comprovar què són els atacs adversaris i com funciona la programació adversària. Entre d’altres, utilitzant uns patrons determinats van aconseguir enganyar a la càmera fent que un model de IA per al reconeixement de persones no els detectés!
L'ús d'eines d'IA per al reconeixement de persones i objectes té un gran potencial, però també presenta reptes ètics. Quina percepció tenim sobre l'impacte d'aquesta tecnologia a la societat 
Laura Martín Montañez, especialista de Comunicació del CVC, va dinamitzar una activitat on els assistents van haver d'identificar el nivell de risc (segons la classificació que proposa la Comissió Europea) que li veien a les tecnologies que els hi vam mostrar durant la sessió. La ciutadania es va mostrar participativa i ens va permetre reflexionar conjuntament sobre el risc, les oportunitats i els límits d'aquestes tecnologies de IA. Els assistents van coincidir en la necessitat d’avançar cap a una IA transparent i explicable.
A continuació us deixem un recull de fotografies de la sessió.
Biblioteca
Biblioteca Marc de Vilalba de Cardedeu
Carrer Dr. Klein, 101
08440 Cardedeu
