저커버그도 '생각보다 느리다'고 인정한 AI 에이전트, 왜 이렇게 어려울까

'AI 에이전트'가 뭐길래

먼저 용어부터 짚고 갈게요. 요즘 'AI 에이전트'라는 말이 여기저기서 들리는데요, 이게 뭐냐면 사람이 시키는 대로 대화만 하는 챗봇을 넘어서, 스스로 판단해서 일을 척척 처리해주는 AI를 말해요. 예를 들어 「다음 주 제주도 2박 3일 여행 예약해줘」라고 하면, 항공편을 검색하고 숙소를 비교하고 예약 버튼까지 눌러주는 거죠. 그냥 답만 알려주는 게 아니라 실제로 행동(action)을 하는 AI라서 '에이전트(대리인)'라고 불러요.

지난 몇 년간 업계는 이 에이전트를 「다음 대박」으로 봤어요. 그런데 최근 메타의 마크 저커버그가 「AI 에이전트 개발이 예상보다 더디게 진행되고 있다」고 솔직하게 인정하는 발언을 내놨어요. 세계에서 가장 많은 돈과 인재를 쏟아붓는 회사 중 하나가 이런 말을 했다는 건, 이 문제가 생각보다 만만치 않다는 신호예요.

왜 이렇게 어려울까 — '실수가 쌓이는' 문제

에이전트가 어려운 가장 근본적인 이유는 실수가 눈덩이처럼 불어난다는 데 있어요. 이걸 좀 쉽게 설명해볼게요.

AI가 한 단계 작업을 할 때 정확도가 95%라고 해봐요. 꽤 높죠? 그런데 에이전트가 하는 일은 보통 한 단계로 끝나지 않아요. 검색하고, 비교하고, 판단하고, 입력하고... 열 단계, 스무 단계가 이어지죠. 문제는 각 단계의 성공률이 곱해진다는 거예요. 0.95를 열 번 곱하면 약 0.6, 즉 60%로 뚝 떨어져요. 스무 단계면 36%까지 내려가고요. 한 단계 한 단계는 꽤 정확한데, 전체 작업을 끝까지 완수할 확률은 형편없이 낮아지는 거예요.

게다가 중간에 한 번 잘못 판단하면 그 위에 계속 잘못된 판단이 쌓여요. 사람은 「어, 뭔가 이상한데?」 하고 되돌아가는데, AI는 자기가 틀렸다는 걸 잘 몰라서 엉뚱한 방향으로 자신 있게 달려가버리는 경우가 많거든요. 여기에 실제 도구(웹사이트, 프로그램)를 다루다 보면 화면이 바뀌거나 오류가 나는 변수까지 겹쳐요. 데모 영상에선 멋지게 되던 게 실제 환경에선 자꾸 삐끗하는 이유죠.

데모와 현실 사이의 거대한 간극

사실 이건 메타만의 문제가 아니에요. 오픈AI, 앤스로픽, 구글 등 거의 모든 주요 AI 회사가 에이전트에 승부를 걸고 있어요. 화면을 직접 보고 클릭하는 '컴퓨터 사용' 기능, 웹을 돌아다니며 작업하는 에이전트 등 발표는 화려했죠. 그런데 막상 현업에 쓰려고 하면 「10번 중 6번만 성공하는 자동화」는 오히려 안 쓰느니만 못한 경우가 많아요. 사람이 결과를 매번 검증해야 하면, 그럴 바엔 그냥 사람이 하는 게 빠르니까요.

그래서 지금 업계의 화두는 「얼마나 화려한가」가 아니라 「얼마나 믿을 수 있는가」로 옮겨가고 있어요. 저커버그의 발언도 결국 「화려한 데모는 쉽지만, 매번 믿고 맡길 수 있는 수준까지 끌어올리는 건 완전히 다른 난이도」라는 현실 인식을 보여주는 거예요.

한국 개발자에게

여기서 얻을 교훈이 있어요. 「에이전트를 붙였다」는 것 자체가 제품의 가치가 되진 않는다는 거예요. 지금 당장 실무에 쓸 거라면, 에이전트에게 통째로 다 맡기기보다는 좁고, 결과를 검증하기 쉬운 작업부터 적용하는 게 현실적이에요. 예를 들어 「이 문서에서 특정 정보를 뽑아 정리해줘」처럼 결과가 맞는지 사람이 금방 확인할 수 있는 일이요.

기존의 RPA(정해진 규칙대로 반복 작업을 자동화하는 기술)를 떠올리면 이해가 쉬워요. 규칙이 명확하고 변수가 적은 일은 굳이 비싼 AI 에이전트가 아니라 전통적인 자동화가 더 안정적일 수 있어요. AI 에이전트는 「규칙으로 딱 떨어지지 않는 판단」이 필요한 곳에서 진짜 빛을 발하고요. 이 둘을 구분해서 적재적소에 쓰는 감각이 앞으로 정말 중요해질 거예요.