Adversarial machine learning: differenze tra le versioni
Contenuto cancellato Contenuto aggiunto
Riga 30:
È possibile clonare un determinato modello di apprendimento automatico (ad esempio, un modello di [[elaborazione del linguaggio naturale]]) utilizzando un numero finito di [[Query|interrogazioni]] al modello stesso<ref>{{Cita pubblicazione|nome=Florian|cognome=Tramèr|nome2=Fan|cognome2=Zhang|nome3=Ari|cognome3=Juels|data=2016-10-02|titolo=Stealing Machine Learning Models via Prediction APIs|rivista=arXiv:1609.02943 [cs, stat]|accesso=2021-06-16|url=http://arxiv.org/abs/1609.02943}}</ref><ref>{{Cita pubblicazione|nome=Tribhuvanesh|cognome=Orekondy|nome2=Bernt|cognome2=Schiele|nome3=Mario|cognome3=Fritz|data=2018-12-06|titolo=Knockoff Nets: Stealing Functionality of Black-Box Models|rivista=arXiv:1812.02766 [cs]|accesso=2021-06-16|url=http://arxiv.org/abs/1812.02766}}</ref>. L'idea è quella di sfruttare gli output ricevuti dal modello originale per addestrare un modello clone. Inoltre, in alcuni casi è possibile anche utilizzare interrogazioni generate [[Campionamento casuale|casualmente]]<ref name=":2" />.
== Threat modeling - Modellazione della minaccia ==
Parallelamente ad altri problemi in sicurezza informatica, anche nel caso dell'adversarial machine learning è importante definire un [[threat model]]. Il threat modeling è un processo attraverso il quale si cercano di identificare e quantificare le vulnerabilità e le potenziali minacce a cui un sistema informatico potrebbe andare incontro<ref>{{Cita web|url=https://www.csoonline.com/article/3537370/threat-modeling-explained-a-process-for-anticipating-cyber-attacks.html|titolo=Threat modeling explained: A process for anticipating cyber attacks|autore=Josh Fruhlinger|sito=CSO Online|data=2020-04-15|lingua=en|accesso=2021-06-16}}</ref>. Nel caso specifico dell'adversarial machine learning, siamo interessati al tipo di conoscenza che un attaccante ha nei confronti del modello, e alle capacità di controllo e manipolazione che esso può esercitare sul modello e sui dataset su cui quest'ultimo lavora.
| |||