几个像素

6月15日到19日，我在里斯本NOVA理工学院的Iberian Modelling Week。

不同大学的学生聚在一起，解决一个企业带来的真实问题。我们分到的是计算机视觉模型上的对抗攻击。让人意外的是扰动可以有多小：改几个像素，模型就非常有把握地说出完全错误的东西。我们做了一条防御流水线，在对抗条件下测试。

这是那种看起来很理论、其实不然的问题。