Hogyan lesz biztonságos a mesterséges intelligencia?

A mesterséges intelligencia (MI) biztonságával a kutatók és a szakma is csak az utóbbi pár évben kezdett el foglalkozni. Ez azért vált fontossá, mert az MI rendszerek szélesebb elterjedése újszerű biztonsági kihívások elé állította az ilyen rendszereket készítő és üzemeltető szervezeteket és vállalatokat. A bizalmasság terén a támadók ellophatják az értékes MI modelleket, illetve a tanítás során használt érzékeny adatokat. A sértetlenség terén az MI mérgezhető, illetve félrevezethető szándékosan módosított adatokkal. A rendelkezésre állás terén a támadók olyan bemeneti adatokat tudnak küldeni az MI-nek, amely miatt az elvártnál jelentősen lassabban, rosszabb esetben pedig sosem hoz döntést. Az ágens-alapú MI pedig a döntéseivel akár a fizikai környezetünket is befolyásolni tudja, ezzel tovább növelve az MI támadási felületét, illetve a sikeres támadások lehetséges hatását.