Systemy sztucznej inteligencji mogą mieć mniejszy lub większy wpływ na człowieka, jego otoczenie czy nawet całe społeczeństwa. Wpływ ten może mieć bardzo zróżnicowany charakter i konsekwencje, w tym także negatywne. Projektując założenia systemu AI, zazwyczaj skupiamy się na tym, co chcemy osiągnąć, np. zwiększenie sprzedaży czy uproszczenie procesu dla klientów. Często pomijamy jednak ewentualne zagrożenia z nim związane. Systemy zarządzania ryzykiem – jeżeli w ogóle uwzględniają specyfikę AI – rzadko rozwiązują problemy poszczególnych procesów, w których system AI jest wykorzystywany. Tym samym, puszczając nasz system w świat rzeczywisty, narażamy siebie (organizację) oraz naszych klientów (lub całe społeczeństwa) na ryzyka, na które nie jesteśmy przygotowani.