Unos pocos píxeles

Del 15 al 19 de junio estuve en la Iberian Modelling Week, en la NOVA School of Science and Technology de Lisboa.

Estudiantes de distintas universidades se juntan y trabajan un problema real que trae una empresa. A nosotros nos tocó ataques adversariales sobre un modelo de visión por computador. Lo que sorprende es lo pequeñas que pueden ser las perturbaciones: un cambio de unos pocos píxeles y el modelo afirma con toda seguridad algo completamente equivocado. Construimos un pipeline de defensa y lo probamos en condiciones adversariales.

Es el tipo de problema que parece teórico y no lo es.