정신건강 영역에서 생성형 AI 규제에 관한 연구 : 

미국 주법과의 비교를 중심으로​

임 종 욱​

케이티클라우드, 변호사, 법학박사​

A Comparative Study of the Regulation of Generative AI in Mental Health : Focusing on U.S. State Laws

Jong-Wook Im

kt cloud, Attorney-at-Law, Ph.D in Law

초록 : AI 기술의 발달로 많은 분야에서 AI가 활용되고 있으며 정신건강 영역이라고 예외는 아니다. 저렴한 비용으로 언제, 어디서나 정신적인 교감을 나눌 수 있는 AI는 빠르게 사용자의 심리적 동반자 지위를 획득하였으나 언제나 긍정적인 결과만을 가져오지는 않는다. 미국에서는 한 소년이 챗GPT와 상담을 나누다가 극단적인 선택을 하는 사례가 발생하였고, 미국의 많은 주에서는 정신건강 영역에서 생성형 AI의 활용을 규제하는 법안이 제정되고 있다. 우리나라 역시 챗GPT를 통한 심리상담이 증가하는 추세이나, 아직까지 관련 논의는 많지 않다. 본 논문은 정신건강 영역에서 생성형 AI의 공법적 규제 필요성을 중심으로 미국 5개 주의 입법·규제 동향을 비교법적으로 분석하고 우리나라가 어떠한 내용과 방식으로 관련 규제제도를 설계해야 하는지를 제시하였다.

  우선 본 논문은 정신건강 영역에서 생성형 AI가 불러올 수 있는 위험요소를 구체적으로 제시하고, 현재의 법제도로는 우려되는 위험을 충분하게 예방할 수 없음을 살펴보았다. 다음으로 미국의 5개 주(뉴욕주, 유타주, 캘리포니아주, 일리노이주, 네바다주)의 관련 법률의 주요 내용을 살펴보고 비교법적 관점에서 우리에게 주는 시사점을 도출한 다음 우리나라에 맞는 규제방안을 제언하였다. 챗GPT라는 특정 생성형 AI가 압도적인 시장점유율을 보이는 현실을 고려하면, 정신건강 영역에서 사용하기 위한 목적의 생성형 AI가 아닌 사용자와 상호작용하고 교감하여 정서적 유대를 쌓을 수 있는 일반적인 생성형 AI를 규제대상으로 포함시키고, 일정 시간마다 사용자에게 대화하는 상대가 인간이 아님을 고지하고 위험표현이 감지되면 전문기관을 안내하는 등 위험대응 프로토콜을 갖춰야 할 것이다. 그리고 생성형 AI가 정신건강적으로 사용자와 올바르게 상호작용할 수 있는지 전문가집단이 검증하는 것이 필요하다.

  정신건강 영역에서 생성형 AI의 활용이 국민의 생명과 정신건강에 위협으로 다가오고 있고, 국가는 이러한 위험으로부터 국민을 보호하여야 한다. 이후로 관련 연구가 계속되어 생명과 정신건강에 새롭게 등장한 위험으로부터 국민을 보호할 수 있는 적절한 법제도가 마련되어야 할 것이다.​