인공지능(AI)이 빠르게 확산되는 가운데 어린이와 청소년에게 미치는 위험이 소셜미디어보다 더 클 수 있다는 경고가 나왔다. 과거 구글에서 안전·보안 분야를 담당했던 전문가가 AI 기업들의 현재 안전장치만으로는 충분하지 않다며 독립적인 평가와 연령 확인 시스템 강화를 촉구했다.

톰 시걸 전 구글 트러스트앤세이프티 책임자는 로이터통신과의 인터뷰에서 현재와 같은 방식으로 AI가 확산될 경우 어린이와 청소년에게 심각한 피해가 발생할 수 있다고 경고했다. 그는 AI가 과거 소셜미디어가 성장하는 과정에서 나타났던 문제를 반복할 가능성을 우려했다.

시걸은 현재 커먼센스미디어의 ‘청소년 AI 안전 연구소’ 초대 책임자로 활동하고 있다. 이 연구소는 AI가 미성년자에게 미치는 영향을 평가하고 기업들이 적용할 수 있는 안전 기준을 마련하는 것을 목표로 하고 있다.

그가 특히 문제로 지적한 부분은 AI가 단순히 콘텐츠를 보여주는 소셜미디어와 달리 사용자와 직접 대화하면서 영향을 미칠 수 있다는 점이다.

생성형 AI는 질문에 답하고 정보를 제공하는 것을 넘어 사용자의 감정과 상황에 맞춰 대화를 이어가는 방식으로 발전하고 있다. 어린이나 청소년이 AI를 친구나 상담 상대처럼 받아들일 경우 잘못된 정보나 부적절한 조언이 실제 행동에 영향을 미칠 가능성도 있다는 것이다.

시걸은 AI가 어린이의 비판적 사고 능력에 미칠 영향에 대해서도 우려를 나타냈다. AI가 질문에 대한 답을 빠르게 제공하면서 사용자가 스스로 생각하고 문제를 해결하는 과정을 줄일 수 있다는 설명이다.

정신건강과 관련된 위험도 지적됐다. 시걸은 AI가 잘못 설계되거나 충분한 안전장치 없이 사용될 경우 일부 청소년에게 심각한 정신적 피해가 발생할 가능성을 경고했다. 다만 이러한 위험이 실제로 어느 정도 발생하는지는 앞으로 더 많은 독립적인 연구가 필요하다.

AI 기업들도 안전장치를 마련하고 있다고 주장하고 있다. 구글과 오픈AI 등 주요 기업들은 미성년자 보호와 유해 콘텐츠 차단을 위한 여러 기능을 도입하고 있다. 그러나 기업별로 안전 기준이 다르고 독립적인 검증 체계가 충분하지 않다는 지적이 계속되고 있다.

시걸은 특히 AI 기업들이 자체적으로 안전성을 평가하는 것만으로는 부족하다는 입장이다. 외부 기관이 AI 모델을 독립적으로 평가하고 위험성을 검증할 수 있는 시스템이 필요하다는 것이다.

연령 확인 문제도 핵심 쟁점으로 떠오르고 있다. AI 서비스가 실제 사용자의 나이를 제대로 확인하지 못하면 어린이와 청소년이 성인용 기능이나 부적절한 콘텐츠에 접근할 가능성이 있기 때문이다.

AI가 교육과 학습 분야에서 빠르게 활용되는 상황도 변수다. 학생들이 숙제와 보고서 작성, 정보 검색 등에 AI를 광범위하게 사용하면서 교육계에서도 AI 활용과 의존 사이의 적절한 기준을 마련해야 한다는 논의가 이어지고 있다.

이번 경고는 AI 기술 자체를 중단해야 한다는 의미라기보다 기술 발전 속도에 맞춰 어린이 보호를 위한 안전 기준과 독립적인 검증 체계를 함께 마련해야 한다는 문제를 제기한 것으로 볼 수 있다.