인공지능(AI)이 소셜미디어보다 어린이와 청소년에게 더 큰 위험을 초래할 수 있다는 경고가 전 구글 안전 책임자로부터 나왔다.

구글의 신뢰·안전 조직을 설립했던 톰 시걸 전 구글 부사장은 로이터통신과의 인터뷰에서 AI 업계가 과거 소셜미디어 산업이 저질렀던 실수를 반복하고 있다며 보다 강력한 안전장치가 필요하다고 주장했다.

시걸 전 부사장은 구글에서 2004년부터 2019년까지 근무했으며 이후 온라인 안전 기술기업 트러스트랩을 공동 창업했다.

그는 최근 아동과 청소년의 AI 이용을 연구하고 안전 기준을 마련하기 위해 설립된 ‘청소년 AI 안전연구소’의 초대 전무이사로 합류했다.

시걸은 현재 AI 기업들이 어린 이용자를 대상으로 서비스를 확대하면서도 충분한 보호장치를 갖추지 못하고 있다고 지적했다.

그가 우려하는 위험에는 AI에 지나치게 의존하면서 비판적 사고가 약화되는 이른바 ‘인지적 오프로딩’과 함께 정신건강 문제 등이 포함됐다.

다만 이는 시걸 전 부사장의 주장과 우려를 담은 것이며, AI가 실제로 소셜미디어보다 아동에게 더 큰 피해를 준다는 것이 확정된 과학적 결론이라는 의미는 아니다.

그는 AI 기업들이 미성년자의 서비스 접근을 제한할 수 있도록 연령 확인 절차를 강화해야 한다고 주장했다.

또 자동차의 충돌시험처럼 AI 서비스가 어린이에게 미칠 수 있는 위험을 독립적으로 평가하는 표준을 마련해야 한다고 제안했다.

AI 기업들은 현재에도 미성년자 보호를 위한 여러 장치를 운영하고 있다고 설명하고 있다.

구글은 부모가 자녀의 검색엔진 이용 자체를 제한할 수 있는 기능이 있다고 밝혔고, 오픈AI도 자체 연령정보뿐 아니라 계정 및 행동 신호 등을 활용해 미성년 사용자를 식별한다고 로이터에 설명했다.

AI 챗봇이 단순한 검색이나 정보 제공을 넘어 대화와 조언, 학습 지원까지 담당하는 서비스로 발전하면서 어린이와 청소년의 이용을 둘러싼 안전 논쟁도 커지고 있다.

특히 AI가 이용자의 질문에 맞춰 지속적으로 대화를 이어가는 특성 때문에 기존의 검색 서비스와 동일한 방식으로 위험을 관리하기 어렵다는 지적도 나온다.

유럽 등에서도 미성년자의 소셜미디어와 AI 챗봇 이용을 제한하거나 연령 확인을 강화하려는 논의가 진행되고 있다.

향후 AI 산업이 성장할수록 기술 개발 속도와 이용자 보호 사이의 균형을 어떻게 맞출지가 주요 사회적 쟁점으로 떠오를 전망이다.