메타는 왜 ‘AI 비서’ 뒤에 사람을 붙였을까

AI가 전화를 대신한다. 그런데 그 전화 뒤에 사람이 있었다

Meta의 개인 AI 에이전트 Muse는 이메일, 쇼핑, 여행 예약 같은 일을 사용자를 대신해 수행하고, 최근에는 기업이나 상점에 직접 전화를 거는 기능까지 제공하기 시작했다.

그런데 Reuters가 9월 22일 확인한 Meta 내부 테스트에는 예상 밖의 장면이 있었다. Muse를 통해 이뤄지는 일부 전화 업무를 외부 인간 계약자가 대신 처리하는 ‘human concierge’ 방식이 직원들에게 시험적으로 제공됐다.

Reuters에 따르면 이 기능은 직원 절반가량에 활성화됐고 사용자는 선택적으로 빠질 수 있었다. 아직 일반 사용자에게 공개된 정식 기능이 아니라 내부 테스트라는 점이 중요하다.

Muse가 실패해서 사람을 붙인 장면은 아니다

이번 사례를 ‘AI가 아직 못해서 결국 사람이 대신했다’로만 읽으면 중요한 부분을 놓친다.

Reuters 보도 기준 Muse는 출시 약 2주 만에 250만회 이상 다운로드되며 미국 앱 차트 상위권에 올랐다. Meta가 공식 발표한 Muse 역시 질문에 답하는 챗봇보다 사용자를 대신해 실제 업무를 수행하는 personal AI agent로 설계됐다.

Meta는 Muse가 전용 브라우저를 갖춘 Muse Secure VM에서 동작하며, 사용자가 어느 수준까지 접근권한을 줄지 직접 결정한다고 설명한다. 즉 human concierge는 실패한 낡은 서비스에 사람을 덧붙인 장면이 아니라, 자율성이 커진 Agent를 실제 생활에 연결하는 과정에서 나온 실험이다.

검색을 대신하는 것과 현실의 사람에게 전화하는 것은 다른 문제다

AI가 웹에서 정보를 찾고 문장을 쓰는 동안에는 대부분의 작업이 디지털 환경 안에서 끝난다.

하지만 실제 사업장에 전화하면 상황은 달라진다. 예약시간이 꽉 찼을 수도 있고, 웹에 없는 조건을 제시할 수도 있으며, 본인확인이나 민감정보가 필요할 수도 있다. 상대방의 답변이 예상한 형식으로 돌아온다는 보장도 없다.

Agent가 현실세계의 사람·결제·예약과 접촉하기 시작하면 단순한 생성 정확도보다 예외처리, 권한, 개인정보, 책임소재가 더 크게 들어온다.

사람에게 넘기는 순간 새로운 프라이버시 경계가 생긴다

Reuters 보도에서 Meta 일부 직원이 우려한 것도 바로 이 지점이었다. AI가 처리한다고 생각한 통화가 인간 계약자에게 넘어갈 경우, 사용자의 민감한 정보가 인간에게 노출될 가능성이 생기기 때문이다.

Meta 대변인은 human concierge 테스트가 정식 출시 전 안전과 프라이버시를 개선하기 위한 학습 과정이라는 취지로 설명했다.

중요한 것은 인간이 들어왔다는 사실 자체보다, 사용자가 누구에게 업무를 맡기고 있는지를 얼마나 명확히 알 수 있는가다. AI에서 사람으로 인계되는 순간 데이터 접근권한과 고지방식도 함께 설계해야 한다.

AI Agent의 핵심 질문은 자동화율만이 아니다

기업이 Agent를 도입할 때 가장 먼저 보기 쉬운 숫자는 자동화율이다. 몇 퍼센트의 일을 AI가 끝낼 수 있는지, 사람 몇 명의 시간을 줄일 수 있는지가 눈에 들어온다.

하지만 실제 운영에서는 다른 질문이 중요해질 수 있다. AI가 어떤 조건에서 멈추는가, 멈춘 업무는 누구에게 가는가, 사람은 AI가 앞에서 무엇을 했는지 이해할 수 있는가, 그리고 사용자는 인계사실을 아는가.

자동화율이 높아져도 남는 5%가 결제, 개인정보, 분쟁, 안전처럼 위험이 높은 문제라면 그 5%를 다루는 조직설계가 제품의 신뢰성을 결정할 수 있다.

은행들도 Agent가 거래에 들어오자 ‘고지와 책임’을 문제 삼기 시작했다

이 문제는 Meta 한 회사의 전화기능만의 이야기가 아니다.

Reuters는 NatWest, Bank of America, ING 등 여러 은행이 AI shopping agent가 소비자를 대신해 구매와 결제에 관여하기 시작하면서 사기, 개인정보, 불명확한 책임소재를 우려하고 있다고 보도했다.

은행들이 제안한 대응 가운데는 AI가 거래에 관여했다는 사실을 더 명확히 고지하고, 문제가 생겼을 때 소비자가 어디에 구제를 요청할 수 있는지 분명하게 해야 한다는 내용도 포함된다.

Agent가 ‘답변층’에서 ‘행동층’으로 내려갈수록 고지·권한·책임이 제품기능에 가까워지는 이유다.

인간의 역할도 ‘AI를 지켜보는 사람’보다 더 구체적으로 나뉠 수 있다

AI Agent 뒤에 사람이 남는다고 해서 과거의 콜센터 업무가 그대로 유지된다고 단정할 수는 없다.

AI가 정상적인 문의와 반복적인 절차를 먼저 처리하면 사람에게 올라오는 것은 오히려 예외적이고 애매하며 위험한 사건일 수 있다. 업무량이 줄어도 사람 한 명이 맡는 판단의 밀도는 높아질 수 있다.

기업 입장에서는 단순히 human-in-the-loop를 넣는 것이 아니라 어떤 예외를 어떤 권한을 가진 사람이 처리하고, 그 판단을 다시 시스템에 어떻게 반영할지까지 설계해야 한다.

‘사람이 있느냐’보다 ‘인계가 보이느냐’가 더 중요해질 수 있다

사람에게 넘기는 것 자체는 오래된 운영방식이다. 고객센터에도 escalation이 있고, 금융에도 승인단계가 있으며, 의료에도 전문의에게 넘어가는 경계가 있다.

AI Agent에서 새로 어려워지는 것은 사용자가 처음부터 인간과 대화하는 것이 아니라 AI에게 행동권을 위임했다는 점이다.

따라서 인계가 보이지 않으면 사용자는 자신의 데이터가 누구에게 전달됐는지, 누가 실제 결정을 했는지, 오류가 났을 때 어디에 책임을 물어야 하는지 알기 어려워진다.

BANSEOG VIEW | Agent의 자율성이 커질수록 ‘인계설계’가 제품이 된다

Muse의 human concierge가 Meta의 최종 제품구조로 남을지는 아직 알 수 없다. 현재 확인된 것은 직원 대상 내부 테스트이며, 일부 통화를 인간 계약자가 처리했다는 사실이다.

따라서 이 사례만으로 ‘모든 AI Agent 뒤에는 결국 사람이 필요하다’고 일반화하는 것은 과하다.

다만 Meta 공식 보안설계, Reuters가 확인한 human concierge 테스트, 은행권의 agentic-commerce 경고를 함께 보면 한 가지 공통된 질문은 선명해진다.

AI가 더 많은 행동권을 가져갈수록 기업은 자동화율뿐 아니라 ‘어디서 멈추고 누구에게 넘길 것인가, 사용자는 그 사실을 알고 있는가, 그 과정에서 누가 데이터와 책임을 소유하는가’를 설계해야 한다.

Agent 시대의 경쟁력은 AI가 혼자 얼마나 많은 일을 끝내느냐뿐 아니라, 혼자 끝내지 못한 일을 얼마나 안전하고 설명가능하게 넘기느냐에서도 갈릴 수 있다.