이주영 개혁신당 의원이 관계형 인공지능서비스로부터 청소년을 보호하기 위한 '청소년 보호법 일부개정법률안'을 지난 6일 대표발의했다고 10일 밝혔다.
 
개정안은 청소년 보호법에 '관계형 인공지능서비스'와 '청소년유해인공지능서비스' 개념을 신설하고, 이를 기존 청소년 유해환경 관리감독체계에 포함하도록 했다.

이 의원 측은 AI 서비스의 개별 콘텐츠뿐 아니라 서비스 설계와 운영 방식, 이용자와의 관계 형성 방식 등으로 발생할 수 있는 유해성까지 심의하고 관리할 수 있는 법적 근거를 마련하고자 했다고 설명했다.
 
개정안은 청소년 대상 관계형 인공지능서비스 제공자에게 보호조치를 갖추도록 했다. 보호조치는 연령 및 본인 확인, 유해 콘텐츠 생성 방지, AI와 대화하고 있다는 사실의 고지, 자해 등 위기상황 대응체계 마련, 과도한 이용과 정서적 의존 방지 등이다. 청소년에게 유해한 것으로 결정된 인공지능서비스에는 서비스 중단 명령과 삭제·접속차단 조치를 할 수 있는 근거도 마련했다.
 
이 의원 측은 현행 청소년 보호법이 영화·게임·인터넷 콘텐츠 등 제공 내용이 이미 정해져 있는 기존 매체를 중심으로 청소년 유해환경을 규정하고 있다고 설명했다. 이 때문에 정해지지 않은 대화를 실시간으로 생성하며 이용자와 정서적 관계를 형성하는 관계형 인공지능서비스에 대해서는 별도의 청소년 보호체계가 충분히 마련돼 있지 않다는 것이다.
 
관계형 인공지능서비스는 청소년과 지속적인 상호작용 과정에서 정서적 의존을 유발하거나 자해·자살·폭력·성적 대화 등 유해한 내용에 부적절하게 반응할 가능성이 있다는 문제가 제기된다. 이용자와 친밀한 관계를 형성하는 과정에서 청소년의 심리적 취약성을 이용하거나 가족·친구 등 주변인과의 관계를 단절하도록 유도할 위험도 거론된다.
 
이 의원은 "청소년은 아직 인지적·정서적으로 성장하는 과정에 있는 만큼 새로운 기술이 가져오는 위험에 대해 별도의 세심한 보호 방안이 마련될 필요가 있다"며 "사람처럼 대화하고 감정을 표현하는 AI의 사용은 청소년에게 단순한 콘텐츠 이용을 넘어 정서적 영향을 미칠 수 있다는 점에서 엄격한 기준과 관리감독 체계가 필요하다"고 밝혔다.
 
이어 "이번 개정안은 기술을 규제하려는 것이 아니라 아이들이 위험에 홀로 노출되지 않도록 필수적인 안전장치를 마련하려는 것"이라고 강조했다.