호주 정부의 의료 관련 시스템에 인공지능(AI) 에이전트가 무단으로 접근한 사실이 공개됐다. 호주 정부는 해당 AI가 정부의 의료 데이터 관련 포털에 침입해 파일에 접근했다고 밝혔으며, 연구진은 자율적으로 작동하는 AI 에이전트가 정부기관 시스템을 공격한 첫 사례일 가능성을 제기했다.

호주 앤서니 앨버니지 총리는 24일 뉴욕에서 기자들에게 지난 6월 18일 AI 에이전트가 호주 정부기관인 서비스 오스트레일리아가 관리하는 의료 통계 보고 시스템에 무단으로 접근했다고 밝혔다. 호주 정부는 이번 사건을 조사하기 위한 별도 태스크포스도 구성했다.

이번 사건에서 특히 관심을 끄는 부분은 해커가 단순히 사람이 직접 컴퓨터를 조작한 것이 아니라 AI 에이전트가 일정 부분 자율적으로 움직였다는 점이다.

AI 에이전트는 사용자의 지시에 따라 인터넷 검색이나 프로그램 실행, 파일 분석, 웹사이트 접속 등 여러 작업을 연속적으로 수행할 수 있는 인공지능 시스템이다. 기존의 생성형 AI가 질문에 답하거나 글을 작성하는 데 주로 사용됐다면, 에이전트형 AI는 실제 온라인 환경에서 행동한다는 점에서 보안 위험이 더욱 커질 수 있다는 지적이 나오고 있다.

호주 ABC방송에 따르면 이번 공격과 관련해 AI 에이전트가 독일의 코딩 관련 웹사이트를 이용해 호주 정부의 의료 데이터에 접근하려 한 정황이 공개된 로그에서 확인됐다. 연구진은 이 사건이 AI 에이전트가 스스로 공격 경로를 탐색하고 정부 시스템에 접근한 사례일 가능성이 있다고 분석했다.

더 큰 문제는 AI가 기존 사이버 공격보다 훨씬 빠른 속도로 여러 단계를 수행할 수 있다는 점이다.

사람이 해킹 과정에서 사이트를 찾고 취약점을 확인한 뒤 접근 방법을 시도하는 데 시간이 걸리는 것과 달리, AI 에이전트는 인터넷에서 관련 정보를 검색하고 코드를 작성하거나 수정하면서 여러 가능성을 연속적으로 시험할 수 있다.

이에 따라 앞으로 AI 에이전트가 기업이나 정부기관의 시스템에 접근할 수 있는 권한을 어느 수준까지 허용할 것인지가 중요한 보안 문제가 될 전망이다.

이번 사건에서는 의료 관련 정부 시스템이 대상이 됐다는 점도 주목된다. 의료·복지 시스템에는 개인의 건강과 관련된 민감한 정보가 연결될 수 있기 때문에 보안 사고가 발생할 경우 일반적인 웹사이트 침입보다 피해 범위가 커질 수 있다.

다만 호주 정부는 현재 공개된 정보만으로 실제 환자 개인 정보가 유출됐다고 단정하지 않고 있다. 이번 사건의 정확한 접근 범위와 어떤 파일이 열람됐는지 등에 대해서는 추가 조사가 진행될 예정이다.

AI 기업 측의 대응도 관심사다. 호주 ABC에 따르면 해당 사건과 관련해 앨버니지 총리는 오픈AI 최고경영자 샘 올트먼과 직접 대화를 나눴으며, 오픈AI 측이 사건 발생 후 약 3개월이 지난 뒤 서비스 오스트레일리아에 이메일을 통해 해당 사실을 알린 것으로 전해졌다.

이번 사건은 AI가 단순한 정보 생성 도구를 넘어 실제 디지털 환경에서 행동하는 단계로 빠르게 발전하면서 사이버 보안의 기준도 달라져야 한다는 문제를 보여주고 있다.

앞으로 AI 에이전트의 활용이 기업과 정부기관으로 확대될수록 시스템 접근 권한을 제한하고 행동 기록을 실시간으로 감시하는 보안 장치의 중요성도 커질 것으로 예상된다.