한 인공지능 연구자가 소셜미디어 X에 자신이 오늘 앤트로픽(Anthropic)에서 사직했다고 밝히며 짧지만 강한 글을 올렸다. 그는 지난 3년간 오픈AI와 앤트로픽 양쪽에서 사전학습(pretraining) 연구를 해왔다고 소개하면서, 두 회사 모두 책임 있게 행동하지 않고 있으며 '스스로 개선하는 초지능(self-improving superintelligence)'을 향해 곧장 질주하면서 인류의 생명을 걸고 도박을 하고 있다고 주장했다. 공개된 원문은 이 몇 문장이 전부이며, 구체적인 근거나 내부 정황, 회사 측 반응은 함께 제시되지 않았다. 따라서 이 글은 검증된 폭로라기보다 프런티어 AI 개발 현장의 한 연구자가 내놓은 개인적 문제 제기로 읽는 것이 정확하다.
왜 '사전학습 연구자'의 발언인가
주목할 점은 발언자가 스스로를 사전학습 연구자로 규정했다는 것이다. 사전학습은 거대 언어모델의 기본 능력이 형성되는 단계로, 대규모 데이터와 연산으로 모델의 근본 성능을 끌어올리는 작업이다. 모델이 실제로 어디까지 강해질 수 있는지를 가장 가까이에서 지켜보는 위치이며, 오픈AI와 앤트로픽은 모두 이 분야에서 세계 최전선에 있는 조직이다. 이런 배경을 가진 인물이 두 곳을 모두 거치고 나서 '무책임하다'고 말한 것은, 특정 회사에 대한 불만이 아니라 업계 전반의 경쟁 구도 자체를 겨냥한 발언이라는 점에서 무게가 다르다.
그가 사용한 '스스로 개선하는 초지능'이라는 표현은 AI 안전 담론에서 오래 논의돼 온 개념이다. AI가 스스로의 후속 버전을 설계하거나 성능을 재귀적으로 향상시키는 단계에 이르면, 개선 속도가 인간의 감독과 통제를 앞질러 통제 불가능해질 수 있다는 우려다. 앤트로픽은 원래 오픈AI에서 나온 인력들이 안전을 더 중시하겠다며 세운 회사로 알려져 있는데, 그런 회사에서조차 안전보다 경쟁 속도가 앞선다는 취지의 문제 제기가 나왔다는 점이 이 글이 눈길을 끄는 이유다.
한국 실무자가 읽어야 할 지점
국내 IT 실무자에게 이 사안은 두 층위에서 의미가 있다. 첫째는 공급망 리스크다. 많은 국내 서비스가 오픈AI와 앤트로픽의 모델 API에 직접 의존하거나, 이들을 재판매하는 클라우드를 거쳐 간접적으로 얹혀 있다. 모델 제공사의 개발 방향과 내부 안전 문화는 곧 우리 서비스의 안정성·규제 노출·평판 리스크와 직결된다. 핵심 연구 인력의 이탈과 공개 비판은, 성능 지표만으로는 보이지 않는 조직 리스크의 신호일 수 있으므로 벤더를 평가할 때 참고 지표로 둘 만하다.
둘째는 거버넌스의 방향성이다. 이 연구자의 주장이 사실이든 과장이든, 프런티어 모델 개발이 외부 검증 없이 회사 내부 판단에 크게 의존한다는 구조적 사실 자체는 변하지 않는다. 유럽연합의 AI 법을 비롯해 각국의 규제가 정비되는 흐름 속에서, 국내 기업도 특정 모델에 대한 종속을 줄이는 이중화 전략, 온프레미스나 오픈웨이트 모델을 포함한 대안 확보, 그리고 자체 평가·레드팀 체계 구축을 진지하게 검토할 필요가 커지고 있다.
신중하게 다뤄야 할 한계
동시에 이 글을 다룰 때의 한계도 분명히 해야 한다. 현재 확인 가능한 것은 한 개인의 짧은 게시물뿐이며, 발언자의 실제 재직 여부·사직 경위·주장의 구체적 근거는 원문만으로 검증되지 않는다. '무책임하다'거나 '생명을 걸고 도박한다'는 표현은 강한 가치 판단을 담고 있지만, 그것을 뒷받침할 실증적 사례나 데이터는 제시되지 않았다. 두 회사의 공식 입장 역시 이 원문에는 없다.
결국 이 사안은 결론을 내리기보다 관찰해야 할 대상에 가깝다. AI 안전을 둘러싼 내부자들의 문제 제기가 반복적으로 등장한다는 사실 자체가 하나의 추세이며, 개별 발언의 진위와 별개로 프런티어 개발의 속도와 통제 사이의 긴장이 여전히 해소되지 않았음을 보여준다. 실무자라면 이런 목소리를 선정적 뉴스로 소비하기보다, 자사가 의존하는 AI 스택의 투명성과 대체 가능성을 점검하는 계기로 삼는 편이 실질적이다.