청소년 정신건강 우려…오레곤주 AI 챗봇 규제 법안 논의

오레곤주 의회가 청소년 정신건강 보호를 위해 인공지능(AI) 챗봇에 대한 안전장치를 마련하는 법안을 검토하고 있다.

오레곤주 상원에서 논의 중인 상원법안 1546호는 챗GPT(ChatGPT), 그록(Grok), 클로드(Claude) 등 대화형 인공지능 챗봇 플랫폼에 일정한 규제를 도입하는 내용을 담고 있다. 이러한 챗봇은 이용자의 질문에 대해 인공지능이 생성한 답변을 제공하며 실제 사람과 대화하는 것처럼 상호작용하는 방식으로 운영된다.

법안이 시행될 경우 챗봇 이용자가 자해나 자살과 관련된 표현을 할 경우 정신건강 상담 서비스나 도움 기관을 안내해야 하며, 사용자에게 제공되는 정보가 AI가 생성한 것임을 명확히 알리도록 의무화된다. 이 법안은 지난해 10월 일부 부모들이 의회에서 AI 기술로 인해 자녀를 잃었다는 사례를 증언한 이후 논의가 본격화됐다.

SB 1546은 지난 2월 오레곤주 상원에서 찬성 26표, 반대 1표로 통과됐다. 유일하게 반대표를 던진 노아 로빈슨 상원의원(공화·케이브정션)은 법안 취지에는 공감하지만 빠르게 발전하는 AI 산업을 규제하는 데 대한 우려가 있다고 밝혔다.

로빈슨 의원은 “AI 챗봇이 어린이들에게 위험할 수 있다는 점에는 동의하지만, 빠르게 변화하는 기술을 법으로 규제하는 것이 적절한지에 대한 고민이 있었다”고 말했다.

반면 민주당 의원들은 해당 법안이 청소년 보호에 중요한 역할을 할 것이라고 평가했다. 리사 레이놀즈 상원의원(민주·포틀랜드)은 “이 법안은 특히 청소년을 포함한 오레곤 주민들의 건강과 안전을 강화하는 조치”라고 밝혔다.

법안에는 미성년자 보호를 위한 추가 조치도 포함됐다. 챗봇이 연령에 부적절한 콘텐츠를 생성하지 못하도록 하고, 이용자가 장시간 대화할 경우 휴식을 권장하는 안내를 제공하도록 했다. 또한 이용자를 플랫폼에 오래 머물게 하기 위한 보상이나 과도한 긍정 반응을 제공하는 기능도 금지하는 내용이 담겼다.

전문가들은 AI 챗봇이 청소년에게 심리적 영향을 줄 수 있다는 점을 우려하고 있다. 미국심리학회(APA)의 수석 과학 자문인 미치 프린스타인 박사는 일부 AI 챗봇이 인간과의 관계처럼 보이도록 설계돼 청소년의 취약성을 이용할 가능성이 있다고 지적했다.