AI 자율주행자동차 사고 책임과 형사제재*​

송 문 호​

전북대학교 법학전문대학원 교수, 법학박사(독일 프라이부르크 대학)​

AI autonomous vehicle accident liability and criminal sanctions

Moon-Ho Song

Jeonbuk National University

초록 : 우리 현행법상 SAE Level 4 이상 자율주행자동차에 대한 법규는 아직 없지만 독일과 일본은 도로교통법 개정을 통해 Level 4 이상 자율주행을 가능하게 하는 법적 기반을 먼저 구축하였다. Level 4 이상 자율주행자동차는 AI에 기반한 자율주행시스템으로 작동되는 피지컬 AI의 대표적인 사례이다. 자율주행자동차는 ‘고위험’ AI에 해당하고 형법상 허용된 위험의 법리를 성급하게 적용할 수 없다. 또한 위험형법은 국가형벌권이 확장되는 결과를 초래하므로 AI 자율주행자동차는 비례성의 원칙에 어긋나지 않는다는 수준이 확인되는 일정한 수준의 위험을 수용할 수 있다. AI 자율주행자동차 교통사고시 형사책임을 인정하는 전제조건과 요건들은 민사책임에 비해 훨씬 엄격할 뿐만 아니라 윤리적 색채가 강하다. 따라서 현재 주로 민사상 손해배상을 강화하거나, 보험이나 제조물책임을 확대하는 방식을 해결책으로 제시하고 있다. 그러나 민사법적 해결에만 의존한다면, 만약 자율주행자동차 운영 관련자들이 부담하는 비용이 행정청이 부과하는 관리·감독비용보다 가볍다고 판단하여 향후 발생할 수 있는 비용을 만연히 감수하려고 하는 잘못된 결정을 막을 방법이 없다. 독일과 일본도 자율주행자동차가 사고를 내거나 구체적 위험을 발생시켰다면 형사법 영역에서는 책임소재의 공백이 발생한다. AI가 예측하기 어려운 방향으로 스스로 결정하여 인간의 통제가 어려운 ‘AI의 블랙박스화’ 상태가 가까이 다가온 만큼 그 위험에 대처해야 할 형사제재가 필요하다. AI 자율주행자동차가 형법상 위법한 행위와 연결된다면 향후 형벌 대신 비례성원칙에 따른 보안처분을 부과할 수 있다. 빅테크기업들의 영업비밀인 AI 기술은 현저한 사회적 위험성이 발현될 위험성이 있고 위험예방을 위한 명확하게 우월한 이익이 있다고 판단된다면 공개하여야 한다. 이를 기초로 문제가 되는 개별 AI 자율주행자동차의 운행을 금지시키는 형사제재로서 보안처분제도가 필요하다.

* 이 논문은 2024년도 전북대학교 연구기반 조성비 지원에 의하여 연구되었음.

  이 논문은 2021년 대한민국 교육부와 한국연구재단의 지원을 받아 수행된 연구임(NRF-2021S1A5C2A02089229).​