LLVM이 너무 무겁다면? 작고 단단한 컴파일러 백엔드 QBE

나만의 프로그래밍 언어, 백엔드가 발목을 잡아요

자기만의 프로그래밍 언어나 작은 DSL(특정 목적용 언어)을 만들어보고 싶다는 생각, 개발자라면 한 번쯤 해보잖아요. 그런데 막상 시작하면 의외의 벽에 부딪혀요. 바로 백엔드(backend) 예요.

잠깐 정리하면, 컴파일러는 보통 두 부분으로 나뉘어요. 프론트엔드는 우리가 짠 소스 코드를 읽어서 컴퓨터가 다루기 좋은 중간 표현(IR, Intermediate Representation)으로 바꾸고요, 백엔드는 그 중간 표현을 실제 CPU가 실행하는 기계어로 번역하고 최적화하는 역할이에요. 문제는 이 백엔드를 직접 만드는 게 어마어마하게 어렵다는 거죠. 그래서 다들 LLVM을 갖다 쓰는데, LLVM은 강력하지만 코드베이스가 수백만 줄에 달하는 거대한 괴물이라 API 배우다가 지쳐 나가떨어지기 일쑤예요.

바로 이 지점에서 QBE가 등장해요. 이번에 1.3 버전이 나왔는데요, QBE는 "LLVM의 성능을 상당 부분 따라가되, 복잡함은 확 줄인 작은 컴파일러 백엔드"를 목표로 하는 프로젝트예요.

QBE가 가벼운 비결

QBE의 가장 큰 매력은 작다는 것 자체예요. 전체 코드가 1만 줄 안팎 수준이라, 마음먹으면 한 사람이 전체 구조를 다 이해할 수 있어요. LLVM이 도시 전체라면 QBE는 잘 정돈된 작은 동네 같은 느낌이죠.

핵심은 SSA 기반의 중간 언어(IL) 를 쓴다는 점이에요. SSA(정적 단일 할당, Static Single Assignment)가 뭐냐면, 변수에 값을 딱 한 번만 할당하는 형태로 코드를 표현하는 방식이에요. 이렇게 해두면 "이 변수 값이 어디서 왔는지" 추적이 쉬워져서 최적화하기가 한결 편해지거든요. 현대 컴파일러 최적화의 거의 표준 같은 기법이에요. 게다가 QBE의 IL은 사람이 직접 텍스트로 손으로 써볼 수 있을 만큼 단순해서, 컴파일러가 내부에서 무슨 일을 하는지 눈으로 보고 배우기에도 정말 좋아요.

타깃 아키텍처도 실용적이에요. x86-64, ARM64(AArch64), RISC-V 같은 요즘 주력 CPU들을 지원하거든요. 그러니까 내 언어의 프론트엔드만 잘 만들어서 QBE의 IL로 뱉어주면, 그 다음부터는 QBE가 알아서 각 CPU용 네이티브 실행 파일을 만들어주는 거예요.

업계 맥락에서 보면

실제로 QBE는 장난감이 아니에요. C 컴파일러인 cproc, 그리고 시스템 프로그래밍 언어 Hare가 QBE를 백엔드로 채택해서 쓰고 있어요. 작지만 진짜로 돌아가는 물건이라는 증명이죠.

비슷한 포지션의 프로젝트로는 Rust로 만들어진 Cranelift가 있어요. 이쪽은 주로 WebAssembly 실행이나 JIT(실행 중 즉석 컴파일)에 초점이 맞춰져 있고요. 반면 QBE는 C로 작성된, 미리 컴파일하는(AOT) 방식의 미니멀리즘 백엔드라는 점에서 결이 달라요. 한쪽 끝에 "무겁지만 다 되는" LLVM이 있다면, QBE와 Cranelift는 각자 다른 방향에서 "가볍고 이해 가능한" 대안을 제시하고 있는 셈이에요.

한국 개발자에게 주는 시사점

실무에서 프로덕션 컴파일러를 LLVM 대신 QBE로 바꾸자는 얘기는 아니에요. 하지만 컴파일러 공부를 하고 싶거나, 취미로 언어를 만들어보고 싶거나, 사내에서 작은 DSL을 네이티브로 컴파일하고 싶을 때 QBE는 정말 훌륭한 출발점이에요. LLVM의 방대한 문서에 압도당하지 않고도, IL 텍스트를 직접 써보면서 "SSA가 이런 거구나", "백엔드가 레지스터를 이렇게 배정하는구나"를 손으로 익힐 수 있거든요. 컴퓨터 과학 기본기를 단단하게 다지기에 이만한 교보재가 드물어요.