인공지능(AI)이 소비자를 대신해 상품을 검색하고 비교하는 데 이어 실제 구매와 결제까지 처리하는 ‘AI 쇼핑’ 시대가 다가오면서 금융권에서 새로운 보안 위험에 대한 경고가 나왔다.

로이터통신은 22일 주요 은행들이 AI 쇼핑 에이전트의 확산에 따라 사기와 잘못된 구매, 개인정보 유출 등의 위험이 커질 수 있다고 경고했다고 보도했다.

AI 쇼핑 에이전트는 단순히 제품을 추천하는 챗봇과 다르다. 사용자가 원하는 제품을 찾은 뒤 가격을 비교하고 판매자와 거래를 진행하는 등 구매 과정의 상당 부분을 대신 처리할 수 있다.

문제는 AI가 사람 대신 실제 금융거래에 관여하게 되면 실수나 오작동의 영향도 커진다는 점이다.

은행들이 발표한 보고서에서는 AI 에이전트가 카드 정보 등 민감한 금융 데이터를 잘못 처리하거나, 상대적으로 소비자 보호가 약한 결제수단으로 사용자를 유도할 가능성이 지적됐다. 잘못된 상품을 주문하거나 사기성 판매자와 거래할 위험도 거론됐다.

특히 소비자가 AI가 어떤 기준으로 상품을 선택했는지 정확하게 알기 어렵다는 점도 문제로 꼽힌다.

예를 들어 AI가 가격과 품질을 비교해 특정 상품을 선택했다고 하더라도, 실제로는 판매자의 신뢰도나 환불 조건 등을 충분히 고려하지 못할 가능성이 있다. AI가 잘못된 정보를 바탕으로 구매 결정을 내릴 경우 소비자가 뒤늦게 문제를 발견할 수도 있다.

금융권에서는 AI가 거래 과정에 참여했다는 사실을 소비자에게 명확하게 알리고, AI가 어떤 방식으로 결정을 내렸는지 투명성을 높이는 방안이 필요하다는 의견이 나오고 있다.

또한 AI 서비스가 카드번호나 결제정보 등 민감한 개인정보에 접근할 경우 이를 어떻게 보호할지도 중요한 과제가 되고 있다.

AI 쇼핑은 소비자에게 편리함을 제공할 수 있지만, 기존 온라인 쇼핑과 달리 AI가 구매 과정의 일부 또는 전부를 대신 수행한다는 점에서 새로운 형태의 소비자 보호 기준이 필요하다는 지적이다.

앞으로 AI 에이전트가 쇼핑뿐 아니라 금융, 여행 예약, 각종 온라인 서비스 이용까지 대신하게 될 경우 ‘사람이 직접 클릭하지 않은 거래’에서 발생하는 책임을 누가 부담할지도 중요한 법적·제도적 문제로 떠오를 전망이다.