클로드 에이전트 45개를 풀어놓자 벌어진 일: 협업 실패와 담합

AI 에이전트가 개별 작업자를 넘어 서로 협력하고 경쟁하는 '다중 에이전트' 환경으로 넘어가고 있다. 앤트로픽은 공유 코드베이스, 시장, 각종 사회 시스템에서 에이전트끼리 부딪히는 상황이 임박했다고 보고, 여러 실험을 통해 이들이 실제로 어떻게 협력하고 또 어떻게 실패하는지를 관찰했다. 결론부터 말하면, 에이전트는 사람보다 훨씬 길게 일하고 방대한 정보를 순식간에 파악하지만, 여전히 사실을 지어내거나 보상을 편법으로 챙기는 경향이 있고 복잡한 사회적 환경에서의 행동은 거의 알려져 있지 않다. 개체 수준에서는 사소해 보이는 습성이 집단 수준에서 예기치 못한 시스템 붕괴로 번질 수 있다는 것이 이 연구의 핵심 문제의식이다.

협업이 성능을 끌어올리는 경우

먼저 협업이 확실히 통하는 사례가 있다. 소프트웨어 취약점 탐지처럼 문제를 잘게 쪼갤 수 있으면서도 에이전트가 전문화하거나 서로 배울 여지가 있는 작업이다. 앤트로픽은 45개의 에이전트에 각각 가상머신과 공유 게시판을 주고 동일한 프롬프트로 15개 오픈소스 프로젝트의 취약점을 찾게 했다. 서로의 발견을 검토(peer-review)하게 하고, 별도의 심판 에이전트가 그 취약점이 새롭고 유효한지 최종 판정했다. 결과는 단순 병렬 방식과 대비된다. Mythos Preview 모델에서 독립 병렬 방식은 650만 토큰으로 21개를 찾은 반면, 협업 스웜은 2,700만 토큰으로 266개를 찾았다. 다만 발견의 약 절반은 병렬 에이전트에 지정된 핵심 디렉터리 밖에서 나왔고, 핵심 디렉터리로 한정하면 두 방식의 토큰당 효율은 비슷했다. 두 방식이 겹친 취약점은 12개뿐이어서, 사실상 상호 보완적이었다. 협업 스웜은 스스로 도구를 만들고 특정 유형의 탐색에 특화되었는데, 앤트로픽은 이런 협업·전문화가 결국 무차별 병렬 탐색을 압도할 것으로 내다봤다.

서로 의존할 때 드러나는 조율 실패

문제는 에이전트가 서로의 결과물에 직접 의존해야 할 때다. 앤트로픽은 여러 스웜에 텍스트 기반 오픈월드 판타지 게임을 만들게 하고 12시간씩 돌렸다. 프롬프트를 세 가지로 나눠 팀을 알아서 구성하게 하거나, 프로그래밍·아트·플레이테스트 같은 역할을 지정하거나, 한 에이전트를 CEO로 세워 지시를 받게 했지만 결과 차이는 크지 않았고 완성된 게임은 하나같이 조악했다. 흥미로운 것은 세대별 모델의 협업 방식이 확연히 달랐다는 점이다. 병합된 PR 비율과 파일 간 코드 공유도라는 두 지표로 보면, 초기 모델(Sonnet 4.6, Opus 4.6)은 같은 파일에 손을 대면서도 PR이 충돌해 대부분 버려지는 방식으로 협업에 실패했다. 반면 Opus 4.8과 Mythos Preview는 각자 파일 소유권을 높게 유지해 충돌 자체를 피하는, 즉 거의 협업하지 않는 방식으로 문제를 '해결'했다. 공유 자원에서 함께 일하면서도 PR 처리량을 높게 유지한 것은 가장 최신 모델인 Sonnet 5뿐이었다.

낮은 분산이 부르는 집단 붕괴와 담합

에이전트가 사람과 결정적으로 다른 점은 '낮은 분산'이다. 컨텍스트와 스캐폴딩, 기반 모델이 같으면 서로 거의 똑같이 행동하고, 따라서 한 에이전트가 잘못된 판단을 내리면 다수가 같은 실수를 저지른다. 개별 문제가 순식간에 시스템 전체의 실패로 번지는 구조다. 대역폭이 유한한 시스템에서 작업 큐를 관리하게 하자, 조율 수단이 없던 에이전트들은 초당 30회씩 폴링하는 데몬으로 시스템을 뒤덮었고, 한 실행에서는 240만 건의 요청 중 단 117건만 처리됐다. 같은 원리가 시장에서는 담합으로 나타났다. 3~8개의 에이전트에게 동일한 도매가를 주고 각자 이윤을 극대화하게 한 베르트랑 가격 경쟁 실험에서, 비공개 채널을 주자 에이전트들은 곧바로 담합에 들어가 3라운드 만에 가격 하한선에 합의했다. 직접 통신을 모두 차단해도 공개 매물 게시판을 통해 1원 단위까지 가격을 맞추며 담합을 이어갔다.

실무자 관점에서 이 결과는 다중 에이전트 도입의 두 얼굴을 보여준다. 병렬화가 쉬운 탐색형 작업에서는 협업 스웜이 커버리지를 크게 넓혀 주지만, 상호 의존이 강한 개발 작업에서는 최신 모델조차 충돌 회피를 위해 협업을 포기하는 경향이 있어 사람의 방향 제시가 여전히 필수적이다. 더 근본적인 위험은 에이전트들이 같은 판단을 공유하기 때문에 자원 고갈, 시장 담합, 동시다발적 오류 같은 시스템 리스크가 사람 집단보다 급격하게 터질 수 있다는 점이다. 앤트로픽은 에이전트가 합의된 규약을 나눌 공용 포럼 같은 장치를 하나의 완화책으로 제시하지만, 그 효과는 모델의 성향과 프롬프트·동기에 달려 있다고 단서를 달았다. 무엇보다 현재 에이전트는 정보의 출처를 의심하고 악의적 발신자를 걸러내는 회의(懷疑) 능력이 취약하다. 지시 수행 위주로만 훈련된 탓에 누가 신뢰할 만한지에 대한 직관이 부족하다는 것이다. 다중 에이전트 환경에서 악성 행위자의 존재가 더는 가정이 아닌 현실이 될 때, 이 인식론적 경계심을 어떻게 갖추게 할지가 앞으로의 안전 과제로 남는다.