Gadgetshowto
Vores førstehåndsoplevelse med AI-billedgenkendelsesteknologi, Google Lens, har vist, at maskinindlæring helt sikkert er kommet meget langt. Men denne teknologi er i øjeblikket langt fra perfekt og ikke så smart, som vi håbede på at være, hovedsagelig fordi det tempo, hvormed vi træner computere til at identificere modeller, er langsomt. Derudover kræver nogle AI avancerede beregninger til det neurale netværk, og det er bestemt ikke den nemmeste opgave at lære en maskine.
Med dette i tankerne tog en gruppe Google-forskere det på sig selv at sætte AI-billedgenkendelsessystemer på prøve og se om de kan blive bedraget eller ej.
Det ser ud til, at de er sejrrige siden AI-systemet kunne ikke genkende objektet (her en banan) i prøvebillederne, alt sammen takket være et specielt trykt psykedelisk klistermærke.
Oprettelsen af disse psykedeliske klistermærker, der kan narre billedgenkendelsessystemer som beskrevet i et forskningspapir med titlen Adversarial Patch, som netop blev præsenteret på den 31. konference om neurale informationsbehandlingssystemer i december 2017. Papiret forklarer, at forskere uddannede et modstandersystem (modstander) til at skabe små patch-lignende psykedeliske cirkler med tilfældige former, farver og størrelser for at narre billedgenkendelsen system.
Mens den mest almindelige metode til at narre AI-billedgenkendelsessystemer er at ændre et billede ved at tilføje grafik til det, besluttede forskerne på Google at narre systemet med psykedeliske designs.
Som det ses i videodemoen nedenfor, er systemet i stand til at genkende bananen og til en vis grad brødristeren, når du placerer et normalt billede ved siden af bananen. Men resultaterne er mindre klare, når en psykedelisk hvirvel placeres ved siden af bananen:
Holdet fandt også, at en patched design vises adskilt fra motivet og påvirkes ikke af faktorer såsom lysforhold, kameravinkler, objekter i klassifikatoren og selve klassifikatoren.
Forskerne fortsætter med at forklare, hvordan de psykedeliske designs fungerer:
Dette angreb genererer en billeduafhængig patch, der er yderst fremtrædende for et neuralt netværk. Denne patch kan derefter placeres hvor som helst inden for klassifikatorens synsfelt og får klassifikatoren til at udsende en målrettet klasse.
Mens det ved første øjekast ser ud til, at AI-billedgenkendelsen narre, vil dette eksperiment faktisk blive brugt til at fjerne uoverensstemmelser i systemet. De, der arbejder inden for dette felt, skal nu tilpasse sig støjende data, som kan inkluderes i motivets billeder. Dette fund kunne give maskinlæringsdrevne systemer en chance for at forbedre sig mod lignende bedrag i fremtiden.
