A jó szándék kódolható? A mesterséges intelligencia katonetikai labirintusa

A "jó szándék" mint erkölcsi megfontoláson alapuló belső állapot nem kódolható közvetlenül algoritmusokba. A legfőbb kihívás a "jó" operatív definíciójának lehetetlensége, mivel az erényes cselekvés összetett és nem redukálható tisztán matematikai célfüggvénnyé.

A harctéri MI-rendszerek célokat (például "semmisítsd meg a célt") kapnak, nem pedig valódi szándékot, ami súlyos etikai visszaélésekhez vezethet, ha a cél nincs korlátozva. A katonai MI-etikai keretrendszerek kifejlesztése (pl. a háború törvényeinek digitális kódolása, a "nem harci személyek" védelmére vonatkozó szabályok) próbálja megoldani ezt az érték-illesztési problémát.

Az ilyen rendszerek viselkedési szabályokat és korlátozásokat alkalmaznak, de ezek csak a külső viselkedés szabályozását eredményezik; maga a rendszer nem rendelkezik erkölcsi megfontolással, csak végrehajtja a programozott etikai protokollokat. 

Programjainkról bővebben honlapunkról tájékozódhatnak:

https://kutatokejszakaja.uni-nke.hu/