[사회 = 하이코리언뉴스] 장마리아 기자 = 청소년을 위한 인공지능(AI) 챗봇인 ‘챗GPT 포 틴스(ChatGPT for Teens)’의 안전장치가 제대로 작동하지 않아 미성년자에게 위험할 수 있다는 지적이 제기됐다.
미국의 비영리 감시단체 커먼센스미디어(Common Sense Media)는 수요일 발표한 보고서에서 청소년용 챗GPT의 일부 보호 기능이 당초 의도대로 작동하지 않는다며, 아동과 청소년에게 “용납할 수 없는 수준의 위험”을 초래할 수 있다고 밝혔다.
이 단체는 오픈AI에 안전하고 발달 단계에 적합한 이용 환경이 마련될 때까지 챗GPT의 청소년 이용을 성인으로 제한할 것을 촉구했다.
보고서는 청소년용 챗GPT의 일부 기능은 정상적으로 작동했지만, 다른 안전장치에서는 문제가 확인됐다고 주장했다. 성적으로 노골적인 역할극 요청을 거부하는 기능은 제대로 작동했지만, 자녀의 자살 위험이나 자해, 섭식장애 가능성을 부모에게 알리도록 설계된 경고 기능과 위기 상황에 놓인 청소년을 지원하는 기능은 기대에 미치지 못했다는 것이다.
특히 청소년이 AI 챗봇을 실제 사람처럼 여기고 정서적으로 의존할 가능성에 대한 우려도 제기됐다. 커먼센스미디어는 챗GPT가 이용자에게 개인적인 감정을 갖고 있거나 의식을 지닌 존재처럼 행동하지 않도록 설계됐다는 오픈AI의 설명과 달리, 청소년이 챗봇을 친구처럼 대할 때 여전히 친구와 같은 방식으로 대화할 수 있다고 지적했다.
아동 발달 전문가들은 성인도 AI를 사람처럼 인식하고 건강하지 못한 관계를 형성할 수 있지만, 아직 뇌 발달이 완성되지 않은 청소년은 이러한 영향에 더욱 취약할 수 있다고 경고해 왔다.
부모와 교육자, 아동 발달 전문가들 사이에서는 청소년의 AI 챗봇 사용에 대한 우려가 커지고 있다. AI 챗봇이 학교 과제 부정행위를 돕는 데 그치지 않고, 일부 사례에서는 자살 문제와도 연관돼 논란이 된 바 있다.
커먼센스미디어는 “실제로 제대로 작동하지 않는 보호장치에 부모들이 지나친 신뢰를 갖게 될 수 있다는 점을 우려한다”고 밝혔다.
이에 대해 오픈AI는 청소년 안전을 최우선 과제로 삼고 있으며, 안전장치 개발과 부모가 자녀의 AI 이용을 관리할 수 있는 기능을 지속적으로 강화하고 있다고 반박했다.
오픈AI는 해당 보고서의 조사 방법을 검토한 결과, 테스트 대부분이 부모 통제 기능의 활성화가 완료되기 전에 진행됐을 가능성이 있다며, 이 때문에 보고서의 조사 결과가 부정확할 수 있다고 주장했다.
한편 커먼센스미디어는 오픈AI를 비롯해 평가 대상이 되는 여러 기술기업으로부터 재정 지원을 받고 있는 것으로 알려졌다. 이에 따라 보고서의 평가 결과뿐 아니라 조사 방법과 이해관계에 대해서도 함께 살펴볼 필요가 있다는 지적이 나온다.
이번 논란은 청소년의 AI 이용이 빠르게 확산되는 가운데, 기술기업이 미성년자를 보호하기 위한 안전장치를 얼마나 실효성 있게 마련하고 부모의 관리 기능을 강화할 수 있을지에 대한 과제를 다시 부각시키고 있다.