국가와 지방자치단체는 인공지능을 광범위하게 도입하여 자동행정행위 또는 행정결정을 행하고 있다. 즉, 4차산업혁명과 지능정보화사회에서 핵심적 기술인 인공지능과 알고리즘을 행정법 영역에서 세무탈루방지 및 세무조사, 조세평가와 자동환급, 규제기관에서 규제의 효율성 제고, 범죄예측과 감시, 스마트 치안서비스와 재범방지, 환경단속, 대학입시교육행정, 인공지능플랫폼 자치행정 등을 행하고 있다.

행정기본법안에서 인공지능에 의한 완전자동행위를 기속행위에 대하여 행할 수 있도록 하고 있으나, 규제행정에서의 인공지능과 알고리즘의 활용은 국민의 권리가 제한되거나 의무가 부과되는 침익적 행정행위에 해당하므로 법률유보원칙에 의하여 인공지능 알고리즘에 의한 행정을 할 수 있는 법적 근거가 마련되어져야 한다.

인공지능의 알고리즘의 편향성과 불투명성으로 인하여 인공지능에 의한 위법한 자동행정행위를 입증이 어렵다고 할 것이다. AI공무원의 행정결정과 손해간의 과실책임에 관한 입증하기 어려을뿐만 아니라 인공지능이 안정성 결함등의 입증이 어려우므로 국가배상법 제2조 및 제5조의 입증책임 완화 내전 전환의 법리의 필요하다. 교통신호기에 대한 공공영조물설치･관리하자책임이 학설과 판례에 의해 인정되고 있고, 미국의 경우 인공지능을 결합한 교통신호기체제를 도입하고 있으므로 인공지능에 대한 국가배상법제5조에 의한 국가배상책임을 물을 수 있는지 문제된다. 한편, 정부는 인공지능에 의한 행정행위에 대하여 권리구제를 확보하기 위하여 행정심판법을 개정할 방침에 있다.

인공지능에 의한 행정작용이 이루어진 경우 국민의 권리구제가 마련되어 있지 아니면 법치국가라고 할 수 없다. 그런데 현행 국가배상에 의하면 AI와 알고리즘에 의한 국가배상책임을 물을 수 없으므로 이에 대응한 입법적 조치가 요구된다.

이하에서는 인공지능의 개념과 유형, 인공지능의 행정법영역에 활용사례와 인공지능 알고리즘의 책임문제를 논의한 후, 약한 인공지능, 강한 인공지능, 초 인공지능으로 구분하여 공무원AI의 국가배상법 제2조에 의한 국가배상책임의 적용가능성과 인공지능 및 알고리즘의 공공영조물 설치 및 관리의 하자책임에 관한 문제를 검토하여 그 법적 개선방안을 마련한다.