캘리포니아가 어린이와 청소년의 온라인 이용 환경을 크게 바꾸는 새로운 규제를 잇따라 시행한다. 16세 미만 이용자를 대상으로 소셜미디어의 일부 중독성 기능을 제한하고, 어린이가 사용하는 AI 챗봇에 대한 안전 기준도 강화하는 내용이다.

개빈 뉴섬 캘리포니아 주지사는 이달 새로운 아동 온라인 안전 관련 법안들에 서명했다. 이에 따라 소셜미디어 플랫폼은 16세 미만 이용자에게 자동재생이나 이용자의 과거 행동을 바탕으로 콘텐츠를 계속 추천하는 방식의 일부 기능을 제공할 수 없게 된다.

이번 조치는 단순히 소셜미디어 이용시간을 제한하는 방식이 아니라 플랫폼의 설계 자체에 규제를 적용하는 것이 특징이다. 어린 이용자가 계속 화면을 넘기거나 장시간 머물도록 설계된 기능을 제한해 온라인 환경을 바꾸겠다는 취지다.

AI 분야에서도 새로운 기준이 적용된다. 이른바 ‘컴패니언 챗봇’에 대해서는 어린이가 위험한 상황에 놓였을 때 대응할 수 있는 안전장치와 부모 통제 기능, 안전설정 변경과 관련한 알림 등이 요구된다. 기업은 독립적인 아동 안전 감사와 위험 평가를 실시해야 하는 내용도 포함됐다.

어린이 개인정보 보호도 강화된다. 학교에서 수집되는 학생 정보가 AI 시스템에서 어떻게 활용되는지를 규제하고, 미성년자를 대상으로 한 맞춤형 광고와 개인정보 활용에 대한 제한도 확대된다.

캘리포니아의 이번 조치는 미국의 다른 주에도 영향을 줄 가능성이 있다. 이미 여러 주에서 미성년자의 소셜미디어 이용과 AI 안전 문제를 둘러싼 법안이 논의되고 있는 가운데, 캘리포니아가 실제 규제에 나서면서 기술기업의 서비스 설계와 운영 방식에도 변화가 예상된다.