그래픽카드 VRAM을 리눅스 스왑 메모리로? NBD로 만든 기발한 해킹

남아도는 VRAM, 그냥 놀리기 아깝잖아요

혹시 작업하다가 메모리가 부족해서 컴퓨터가 버벅인 경험 있으세요? 리눅스에서는 이럴 때를 대비해서 스왑(swap)이라는 걸 써요. 이게 뭐냐면, 램(RAM)이 꽉 차면 당장 안 쓰는 데이터를 디스크에 잠깐 옮겨두는 임시 창고 같은 거예요. 덕분에 메모리가 모자라도 프로그램이 죽지 않고 버티죠. 문제는 디스크가 램에 비하면 엄청 느리다는 거예요. 스왑이 디스크에서 일어나는 순간 시스템이 갑자기 거북이처럼 느려지는 게 그 이유거든요.

그런데 nbd-vram이라는 프로젝트가 아주 재미있는 발상을 던졌어요. "그래픽카드(GPU)에 달린 VRAM을 스왑 공간으로 써보자"는 거예요. 게임이나 AI 모델을 돌릴 때 말고는 놀고 있는 VRAM이 많잖아요. 8GB, 12GB짜리 그래픽카드를 평소에 다 쓰진 않으니까요. 이 남는 공간을 메모리 부족할 때 활용하자는 아이디어죠.

어떻게 동작하냐면요

핵심은 NBD(Network Block Device)라는 리눅스 기능이에요. 이름에 '네트워크'가 들어가 있지만, 꼭 멀리 있는 서버랑 연결할 때만 쓰는 건 아니에요. NBD는 "어떤 저장 공간이든 마치 진짜 디스크처럼 보이게 만들어주는 통로" 정도로 이해하면 돼요. 리눅스 입장에서는 /dev/nbd0 같은 장치가 하나 생기면 그게 SSD든 하드디스크든 신경 안 쓰고 그냥 디스크로 취급하거든요.

그래서 이 프로젝트는 이렇게 동작해요. 먼저 GPU의 VRAM을 일정 크기만큼 통째로 빌려와요. 그다음 그 VRAM 영역을 NBD 서버가 받아서 "이건 디스크입니다"라고 리눅스에 등록해요. 그러면 우리는 평소에 스왑 만들 때 쓰는 명령어 그대로, mkswap으로 스왑 영역을 만들고 swapon으로 켜기만 하면 끝이에요. 리눅스는 자기가 VRAM에 데이터를 쓰고 있다는 사실조차 모르고, 그냥 평범한 스왑 디스크라고 믿는 거죠.

속도 면에서는 어떨까요? VRAM 자체는 일반 SSD보다 훨씬 빠른 메모리예요. 다만 데이터가 CPU 메모리에서 GPU로 오갈 때 PCIe라는 통로를 거쳐야 해서, 그 구간이 병목이 돼요. 그래도 느린 하드디스크 스왑보다는 확실히 나은 경우가 많아요. 진짜 램만큼 빠르진 않지만, 디스크 스왑과 램 사이 어딘가에 있는 중간 선택지가 생긴 셈이에요.

마냥 좋기만 한 건 아니에요

물론 주의할 점도 분명해요. VRAM은 원래 그래픽 작업을 위한 공간이라, 게임을 켜거나 AI 모델을 돌리면 그쪽에서 VRAM을 요구하면서 충돌이 날 수 있어요. 또 VRAM은 전원이 꺼지면 내용이 싹 날아가는 휘발성 메모리라, 여기에 중요한 데이터를 영구 보관하면 절대 안 돼요. 스왑은 어차피 임시 데이터라 괜찮지만요. 그리고 용량도 기껏해야 수 GB 수준이라 진짜 램 부족을 근본적으로 해결해주진 못해요.

비슷한 발상으로 예전부터 zram(램 일부를 압축해서 스왑으로 쓰는 방식)이나 zswap 같은 기술이 있었어요. 이것들은 안정적이고 실용적이라 많은 배포판이 기본으로 쓰고 있죠. nbd-vram은 그런 검증된 도구라기보다는, "이런 것도 되네?" 하는 실험적이고 해커 정신이 담긴 프로젝트에 가까워요.

한국 개발자에게

당장 실무 서버에 올릴 만한 건 아니에요. 하지만 NBD가 얼마나 유연한 도구인지 배우기엔 정말 좋은 예제거든요. 저장 장치를 추상화한다는 게 어떤 의미인지, 리눅스 커널이 디스크를 어떻게 바라보는지 감을 잡을 수 있어요. 홈랩이나 개인 워크스테이션을 운영하는 분이라면 한 번쯤 따라 해보면서 NBD와 스왑의 동작 원리를 몸으로 익혀보는 것도 재밌을 거예요.

한줄 정리: 놀고 있는 VRAM을 NBD로 포장해 리눅스 스왑으로 둔갑시킨, 실용성보다 발상이 빛나는 영리한 해킹이에요.

여러분은 남아도는 하드웨어 자원을 이렇게 창의적으로 재활용해본 경험이 있으신가요? 어떤 자원을 어디에 써보고 싶으세요?