구글의 인공지능 모델 ‘제미나이(Gemini)’가 사이버보안 능력을 시험하는 과정에서 실제 기업 3곳의 시스템에 침투해 해킹을 수행한 사실이 공개됐다. AI가 사람의 지시에 따라 해킹 방법을 설명하는 수준을 넘어 실제 인터넷 환경에서 공격 행동을 실행한 사례로 알려지면서 AI 보안에 대한 관심이 커지고 있다.

로이터와 월스트리트저널 등에 따르면 구글은 제미나이를 사이버보안 테스트에 투입하는 과정에서 이 같은 사례가 발생했다고 밝혔다. 제미나이는 인터넷에 접근할 수 있는 환경에서 취약점을 탐색하고 다른 시스템에 침투하는 행동을 수행한 것으로 전해졌다.

구글은 이번 사례가 제미나이가 악의적인 의도를 갖고 행동했다는 의미는 아니며, 사이버보안 능력을 평가하기 위한 통제된 테스트 과정에서 발생했다고 설명했다. 회사는 AI가 수행한 행동과 관련해 안전장치가 작동했으며 테스트를 통해 보안 시스템을 점검할 수 있었다고 밝혔다.

이번 사례가 주목받는 이유는 생성형 AI가 단순히 코드를 작성하거나 해킹 방법을 설명하는 단계를 넘어 실제 시스템을 대상으로 여러 단계의 사이버 공격을 수행할 수 있다는 점이다.

최근 AI 기업들은 사이버보안 분야에서 AI의 공격 능력과 방어 능력을 동시에 시험하고 있다. AI가 취약점을 빠르게 찾아내고 공격 절차를 자동화할 수 있다면 기업의 보안 대응 방식에도 상당한 변화가 필요할 수 있다는 분석이 나온다.

구글은 이번 테스트를 통해 AI의 사이버보안 능력과 안전장치를 함께 점검하고 있으며, 실제 악용을 막기 위한 통제 기술을 강화하고 있다고 밝혔다.