러스트의 빌림 검사 + 참조 카운팅을 섞으면? 새 언어 Ante의 메모리 관리 실험

메모리 관리, 아직도 정답이 없는 오래된 숙제

프로그램을 만들면 데이터를 담을 메모리 공간이 필요하고, 다 쓴 메모리는 반드시 정리해줘야 해요. 안 그러면 메모리가 줄줄 새거나(누수), 이미 지운 걸 또 건드려서 프로그램이 터지거든요. 이 ‘메모리 관리’를 어떻게 할 거냐를 두고 언어들이 서로 다른 길을 걸어왔어요. Ante라는 새로운 언어가 그중에서도 꽤 신선한 접근을 들고나왔는데, 이 얘기를 하기 전에 기존 방식들부터 짚어볼게요.

세 갈래 길: GC, 수동, 그리고 소유권

첫 번째는 ‘가비지 컬렉션(GC)’이에요. 자바나 파이썬, Go가 쓰는 방식인데요. 안 쓰는 메모리를 언어가 알아서 주기적으로 찾아서 치워줘요. 개발자는 편한데, 청소하는 순간 프로그램이 잠깐 멈칫하거나(스톱 더 월드) 메모리를 좀 더 많이 쓰는 대가가 있어요.

두 번째는 C나 C++처럼 개발자가 직접 malloc으로 얻고 free로 돌려주는 ‘수동 관리’예요. 성능은 최고지만, 사람이 실수하기 딱 좋아서 버그의 온상이 되죠.

세 번째가 Rust가 유명하게 만든 ‘소유권과 빌림 검사(borrow checking)’예요. 이게 뭐냐면, 컴파일 단계에서 “이 데이터의 주인은 누구고, 누가 잠깐 빌려 쓰는지”를 컴파일러가 엄격하게 따져서, 위험한 코드는 아예 컴파일이 안 되게 막아요. 런타임 비용도 없고 안전한데, 대신 규칙이 까다로워서 배우기가 어렵고 “컴파일러랑 싸운다”는 말이 나올 정도예요.

Ante의 아이디어: 두 방식을 섞어버리자

Ante는 여기서 재밌는 선택을 해요. ‘참조 카운팅(reference counting, RC)’을 기본으로 깔되, 거기에 ‘빌림 검사’를 얹어서 단점을 지워버리는 거예요.

참조 카운팅이 뭐냐면, 어떤 데이터를 몇 군데서 참조하고 있는지 숫자를 세는 방식이에요. 새로 참조하면 +1, 참조를 놓으면 -1, 그러다 0이 되면 “아무도 안 쓰네” 하고 메모리를 치워요. 파이썬이나 스위프트가 이걸 써요. 편하고 예측 가능한데, 참조할 때마다 숫자를 올렸다 내렸다 하는 게 은근히 성능을 갉아먹어요. 특히 여러 스레드가 동시에 셀 땐 더 비싸지고요.

Ante의 핵심은 이거예요. “잠깐 빌려 쓰는 거라면 굳이 카운트를 세지 말자.” 빌림 검사를 통해 “이 참조는 원래 주인이 살아 있는 동안만 잠깐 빌리는 것”이라고 컴파일러가 확신할 수 있으면, 그 구간에서는 카운트를 올렸다 내리는 연산을 통째로 생략해버려요. 그러니까 프로그래머는 참조 카운팅의 쉬운 사용감을 그대로 누리면서, 실제 성능은 빌림 검사 덕분에 훨씬 가벼워지는 거예요.

개발자 경험까지 챙겼어요

여기서 Ante가 영리한 점은 ‘점진적’이라는 거예요. Rust는 처음부터 빌림 규칙을 다 지켜야 컴파일이 되지만, Ante는 일단 참조 카운팅 덕에 아무렇게나 짜도 안전하게 돌아가요. 그러다 성능이 아쉬운 지점만 골라서 빌림을 적용해 최적화하면 되는 거죠. 초보자는 쉽게 시작하고, 고수는 필요한 곳만 조여서 성능을 뽑는, 두 마리 토끼를 노린 설계예요.

업계 흐름에서 보면

이런 고민을 하는 게 Ante만은 아니에요. 스위프트는 ARC라는 자동 참조 카운팅을 컴파일러가 최적화해 불필요한 연산을 줄여왔고, Koka나 Roc 언어는 ‘Perceus’라는 기법으로 참조 카운팅을 아주 똑똑하게 최적화해서 GC 없이도 빠르게 만들었어요. 큰 흐름은 분명해요. “GC의 편함과 수동 관리의 성능, 그 사이 어딘가의 달콤한 지점을 컴파일러의 똑똑함으로 잡아내자”는 방향이거든요. Ante는 그 흐름 위에서 ‘기본은 쉽게, 최적화는 선택적으로’라는 자기만의 자리를 잡으려 하고 있어요.

한국 개발자에게 주는 시사점

당장 Ante를 실무에 쓸 일은 없을 거예요. 아직 실험적인 언어니까요. 하지만 이 논의를 따라가 보는 건 가치가 커요. Rust를 배우다 빌림 검사에 좌절한 분이라면, “왜 이런 규칙이 필요한지”, “다른 언어는 이걸 어떻게 다르게 푸는지”를 이해하는 데 큰 도움이 되거든요. 메모리 관리를 바라보는 시야가 넓어지면, 지금 쓰는 언어의 GC 튜닝이나 성능 문제를 볼 때도 훨씬 깊이 있게 접근할 수 있어요.