Saltar al contenido

Sessió 4: Somien les màquines amb il·lusions visuals?

Sessió 4: Somien les màquines amb il·lusions visuals?

Dimecres 31 de maig de 2023

18:00 - 19:30 h

Biblioteca Marc de Vilalba, Cardedeu

Públic general

Eixos temàtics de la sessió:

Sobre la sessió:

En aquesta sessió farem una breu introducció a la percepció visual humana fent servir les il·lusions visuals (errors en la percepció) com a vehicle. Mitjançant il·lusions d'intensitat, color, espai, etc., mostrarem a l'audiència que el que entenen per "realitat" és només un model que el cervell humà ha creat del món i no la realitat. Després, ens centrarem en les xarxes neuronals artificials (base de la intel·ligència artificial moderna) per comprovar en què s'assemblen i diferencien de la percepció visual humana; i respondrem preguntes com: Pot un sistema artificial veure el món com els éssers humans? Les màquines també perceben il·lusions visuals? Les màquines han de veure el món com nosaltres?

Finalment, la presentació acabarà mostrant un dels punts febles de la intel·ligència artificial moderna: els atacs adversaris, una conseqüència de la manca de similitud amb la percepció humana però també com podem utilitzar-ho per al nostre benefici amb l'anomenada "programació adversària".

En la sessió lliurarem a cada assistent un petit paquet d'il·lusions visuals impresses amb les quals podran explorar en més profunditat els errors en la percepció visual humana. A més, incloem en el paquet un petit patró d'interferència que servirà per evitar ser detectat (com a atac adversari) per un petit sistema de detecció de rostres.

Els assistents tindran l'oportunitat de participar en discussions, fer preguntes i aprendre sobre els últims avenços en percepció, atacs adversaris i la programació adversària, i les seves aplicacions en videovigilància.


El dia 31 de maig, vam gaudir d’una sessió molt familiar a la Biblioteca Marc de Vilalba, Cardedeu. En aquesta ocasió, vam explorar de manera interactiva la percepció visual que pot tenir un sistema de intelligència artificial (IA) i, entre d’altres, ens vam plantejar la pregunta, pot una màquina equivocar-se en la seva percepció de la realitat?

Durant la sessió:

➡ Alexandra Gómez-Villa, estudiant de doctorat del Centre de Visió per Computador (CVC), va contextualitzar la temàtica de la sessió introduint als assistents al món de la IA i la percepció visual explicant com veuen les màquines, què és l'aprenentatge automàtic i què és la programació adversària. 

➡ L'equip d'innovació del CVC, juntament amb l’Alex, han desenvolupat un parell de demostracions tecnològiques que ens van permetre experimentar i entendre millor els conceptes de la sessió d’una manera molt pràctica. Richard Segovia i Albert Romero, enginyers de recerca del centre, dinamitzaven ahir aquestes demostracions tecnològiques on els assistents van poder comprovar què són els atacs adversaris i com funciona la programació adversària. Entre d’altres, utilitzant uns patrons determinats van aconseguir enganyar a la càmera fent que un model de IA per al reconeixement de persones no els detectés! 

L'ús d'eines d'IA per al reconeixement de persones i objectes té un gran potencial, però també presenta reptes ètics. Quina percepció tenim sobre l'impacte d'aquesta tecnologia a la societat ❓❓

➡ Laura Martín Montañez, especialista de Comunicació del CVC, va dinamitzar una activitat on els assistents van haver d'identificar el nivell de risc (segons la classificació que proposa la Comissió Europea) que li veien a les tecnologies que els hi vam mostrar durant la sessió. La ciutadania es va mostrar participativa i ens va permetre reflexionar conjuntament sobre el risc, les oportunitats i els límits d'aquestes tecnologies de IA. Els assistents van coincidir en la necessitat d’avançar cap a una IA transparent i explicable.

A continuació us deixem un recull de fotografies de la sessió.

experimentai sesion 4
experimentai sesion 4
experimentai sesion 4
experimentai sesion 4
experimentai sesion 4
experimentai sesion 4
_DSC2569
_DSC2569
31
31
41
41
_DSC2587
_DSC2587
_DSC25811
_DSC25811
experimentai sesion 4
experimentai sesion 4
previous arrow
next arrow
experimentai sesion 4
experimentai sesion 4
experimentai sesion 4
_DSC2569
31
41
_DSC2587
_DSC25811
experimentai sesion 4
previous arrow
next arrow

Biblioteca

Biblioteca Marc de Vilalba de Cardedeu

Carrer Dr. Klein, 101

08440 Cardedeu

bib_cardedeu_edifici
biblio_cardedeu
Twitter
Instagram
YouTube
LinkedIn