인공지능(AI)이 소비자를 대신해 상품을 검색하고 구매까지 처리하는 이른바 ‘AI 쇼핑’이 빠르게 확산하면서 금융권이 사기와 개인정보 보호 문제를 경고하고 나섰다.

AI 에이전트가 사용자의 지시에 따라 온라인에서 상품을 찾고 가격을 비교한 뒤 결제까지 진행하는 ‘에이전틱 커머스’가 새로운 쇼핑 방식으로 떠오르고 있다.

오픈AI와 앤트로픽, 구글, 메타 등 주요 기술기업들이 AI 챗봇과 에이전트의 쇼핑 기능을 확대하면서 소비자가 직접 웹사이트를 검색하고 결제하는 기존 방식에도 변화가 예상된다.

하지만 금융권에서는 AI가 금융정보와 개인정보를 처리하는 과정에서 새로운 위험이 발생할 수 있다고 지적한다.

로이터통신에 따르면 내트웨스트, 뱅크오브아메리카, ING, 캐피털원, 호주 커먼웰스은행 등 주요 은행들은 AI 쇼핑 에이전트가 소비자 보호를 위한 기존 규제보다 빠르게 발전하고 있다며 우려를 제기했다.

가장 큰 문제 중 하나는 결제정보다. AI 에이전트가 사용자를 대신해 상품을 구매하려면 신용카드나 은행 계좌, 배송 주소 등 민감한 정보에 접근해야 할 수 있다.

AI가 어떤 결제수단을 선택할지 소비자가 정확하게 알기 어려운 것도 문제다. 사용자가 특정 상품을 구매해 달라고 명령했더라도 AI가 어떤 판매자를 선택하고 어떤 결제 경로를 이용했는지를 소비자가 일일이 확인하기 어려울 수 있다.

은행들은 AI가 소비자에게 불리한 상품이나 안전하지 않은 결제 방식을 선택할 가능성도 경계하고 있다. AI가 판매자의 광고나 추천 알고리즘에 영향을 받아 특정 상품을 우선적으로 제시할 경우 소비자의 선택이 왜곡될 가능성도 제기된다.

사기 문제도 있다. AI가 악성 사이트를 정상적인 쇼핑몰로 잘못 판단하거나 사기성 상품을 구매할 경우 피해를 어디에서 보상받아야 하는지 명확하지 않을 수 있다.

AI가 구매 과정에서 잘못된 결정을 내렸을 때 소비자가 누구에게 책임을 물어야 하는지도 아직 명확하지 않다. AI 서비스를 제공한 기술기업과 결제업체, 카드회사, 쇼핑몰 가운데 어느 쪽이 책임을 져야 하는지에 대한 새로운 법적 논의가 필요해질 수 있다.

실제 AI를 통한 쇼핑 검색은 빠르게 늘고 있다. 영국 유통업체 존루이스의 경우 AI를 통한 상품 검색 비중이 1년 사이 0.3%에서 2.5%로 증가한 것으로 나타났다.

은행권은 AI가 결제에 관여한다는 사실을 소비자에게 명확하게 알리고, AI의 의사결정 과정에 대한 투명성을 높이는 방안을 제안하고 있다. 금융정보 보호와 소비자의 선택권을 보장할 수 있는 새로운 안전장치가 필요하다는 것이다.

AI가 단순한 검색 도구를 넘어 소비자의 지갑을 직접 움직이는 단계로 들어가면서 관련 규제도 빠르게 바뀔 것으로 보인다. 편리함과 함께 금융사기와 개인정보 보호라는 새로운 문제가 등장하면서 ‘AI 쇼핑 시대’의 안전 기준을 어떻게 마련할지가 중요한 과제가 되고 있다.