Nepřátelské strojové učení: Porovnání verzí
vytvořeno překladem stránky „Adversarial machine learning“ |
(Žádný rozdíl)
|
Verze z 23. 8. 2023, 12:18
Nepřátelské strojové učení, anglicky Adversarial machine learning, je studium útoků na algoritmy strojového učení a obrany proti takovým útokům.[1] Průzkum z května 2020 odhaluje skutečnost, že odborníci z praxe hlásí naléhavou potřebu lepší ochrany systémů strojového učení v průmyslových aplikacích.[2]
Abychom to pochopili, uvědomme si, že většina technik strojového učení je obvykle navržena tak, aby fungovala na konkrétních sadách problémů, přičemž se předpokládá, že trénovací a testovací data jsou generována ze stejného statistického rozdělení (IID). Tento předpoklad je však často nebezpečně porušován v praktických aplikacích s vysokým rizikem, kde uživatelé mohou záměrně poskytovat vymyšlené údaje, které porušují statistický předpoklad.
Některé z nejběžnějších útoků v nepřátelském strojovém učení zahrnují únikové útoky,[3] útoky na otravu dat,[4] byzantské útoky[5] a extrakci modelu.[6]
Nepřátelský útok na neuronovou síť může útočníkovi umožnit vložit do cílového systému algoritmy.[7] Výzkumníci mohou také vytvářet nepříznivé zvukové vstupy, aby zamaskovali příkazy inteligentním asistentům v neškodně vypadajícím zvuku;[8] paralelní literatura zkoumá lidské vnímání takových podnětů.[9][10]
Související články
Reference
- ↑ [s.l.]: [s.n.] ISBN 978-3-030-29515-8. DOI 10.1007/978-3-030-29516-5_10. (anglicky)
- ↑ [s.l.]: [s.n.] ISBN 978-1-7281-9346-5. DOI 10.1109/SPW50608.2020.00028.
- ↑ GOODFELLOW, Ian; MCDANIEL, Patrick; PAPERNOT, Nicolas. Making machine learning robust against adversarial inputs. Communications of the ACM. 25 June 2018, s. 56–66. ISSN 0001-0782. DOI 10.1145/3134599. (anglicky)
- ↑ In: [s.l.]: [s.n.] Dostupné online. (anglicky)
- ↑ proceedings.neurips.cc. Dostupné online. arXiv 2008.00742.
- ↑ In: [s.l.]: [s.n.] Dostupné online. ISBN 978-1-931971-32-4. (anglicky)
- ↑ Chybí název periodika! PMID 31597977.
- ↑ Chybí název periodika! PMID 32385365.
- ↑ Lepori, Michael A; Firestone, Chaz (2020-03-27). "Can you hear me now? Sensitive comparisons of human and machine perception". arXiv:2003.12362 [eess.AS].
- ↑ Vadillo, Jon; Santana, Roberto (2020-01-23). "On the human evaluation of audio adversarial examples". arXiv:2001.08444 [eess.AS].