Seguretat de la IA

Aquesta pàgina o secció és sospitosa de no respectar la neutralitat del punt de vista. El seu contingut actual és sospitós de no ser objectiu. Vegeu la discussió per a més informació. L'avís es pot treure una vegada s'hagi trobat un consens sobre els punts discutits.

La seguretat de la IA és un camp interdisciplinari preocupat per prevenir accidents, mal ús o altres conseqüències perjudicials que podrien derivar-se dels sistemes d'intel·ligència artificial (IA). Comprèn l'ètica de les màquines i l'alineació de la IA, que tenen com a objectiu fer que els sistemes d'IA siguin morals i beneficiosos, i la seguretat de la IA inclou problemes tècnics, inclosos els sistemes de monitorització de riscos i fer-los altament fiables. Més enllà de la investigació en IA, implica desenvolupar normes i polítiques que promoguin la seguretat.