셰이더를 어셈블리로 짠다고? ‘ASM Shader Toy’라는 기묘한 장난감

화면에 멋진 그래픽 효과를 그릴 때 ‘셰이더(shader)’라는 작은 프로그램을 써요. 그래픽카드(GPU) 위에서 픽셀 하나하나의 색을 계산하는 코드인데요. 보통은 GLSL이라는, C 언어랑 비슷하게 생긴 전용 언어로 작성해요. 그런데 누군가 아주 별난 도구를 만들었어요. 셰이더를 GLSL이 아니라 ‘어셈블리(assembly)’로 짜게 해주는 ‘ASM Shader Toy’예요.

먼저 셰이더토이부터 알아야 해요

이 도구의 이름은 ‘Shadertoy(셰이더토이)’에서 따왔어요. 셰이더토이는 브라우저에서 GLSL 코드를 입력하면 그 자리에서 화면에 그래픽을 그려주는 유명한 놀이터 같은 사이트예요. 화면의 모든 픽셀에 대해 “이 위치(x, y)와 현재 시간(t)이 주어졌을 때 무슨 색을 칠할까?”를 계산하는 함수를 짜면, GPU가 수십만 개의 픽셀에 대해 그 계산을 동시에 돌려서 그림을 완성해요. 파도, 불꽃, 프랙탈 같은 화려한 효과를 짧은 코드로 만들 수 있어서 그래픽 공부하는 사람들이 정말 좋아하죠.

그걸 왜 어셈블리로?

ASM Shader Toy는 여기서 한 단계 더 밑으로 내려가요. 어셈블리가 뭐냐면, 사람이 읽을 수 있는 형태 중에서 컴퓨터가 실제로 실행하는 명령에 가장 가까운, 가장 낮은 수준의 언어예요. “이 값을 저기 레지스터에 넣어라”, “이 둘을 더해라” 같은 아주 원시적인 명령을 한 줄씩 늘어놓는 식이죠. GLSL로는 color = sin(x + t) 한 줄이면 될 걸, 어셈블리에서는 곱하고, 더하고, sin 명령 부르고, 결과를 저장하는 식으로 여러 단계로 쪼개서 적어야 해요.

이게 동작하는 방식은, 작은 가상 머신(virtual machine)을 만들어 두고 거기서 명령어를 한 줄씩 해석해서 픽셀 색을 계산하는 구조예요. 픽셀마다 이 작은 프로그램을 돌려서 색을 뽑아내는 거죠. 불편해 보이지만, 바로 그 불편함이 핵심이에요.

이게 왜 의미가 있냐면

GLSL처럼 편한 고급 언어를 쓰면 GPU가 실제로 무슨 일을 하는지는 가려져요. 반면 어셈블리로 직접 짜보면, 평소 한 줄로 쓰던 연산이 사실은 여러 개의 저수준 동작으로 쪼개진다는 걸 몸으로 느끼게 돼요. 레지스터(연산 중간값을 잠깐 담아두는 작은 저장 공간)가 뭔지, 연산이 어떤 순서로 일어나는지, 분기나 반복이 얼마나 비싼지를 직접 부딪치며 배우게 되죠. 컴퓨터의 ‘맨바닥’이 어떻게 생겼는지 들여다보는 교육용 장난감이자, 제약 안에서 그림을 만들어내는 퍼즐 같은 재미가 있어요.

비슷한 결의 것들

이런 ‘일부러 불편하게 만들어서 배우는’ 프로젝트는 의외로 계보가 있어요. 가상의 CPU를 직접 프로그래밍하는 게임 TIS-100이나 Shenzhen I/O, 회로로 컴퓨터를 만들어보는 Turing Complete 같은 게임들이 비슷한 재미를 줘요. 한 줄로 끝낼 수 있는 걸 굳이 바닥부터 조립하게 만들어서, 그 과정에서 컴퓨터의 본질을 깨닫게 하는 거죠. ASM Shader Toy는 그 정신을 그래픽 셰이더 세계로 가져온 셈이에요.

한국 개발자에게

실무에서 셰이더를 어셈블리로 짤 일은 없어요. 하지만 그래픽이나 게임, 혹은 성능 최적화에 관심 있는 분이라면 주말에 한 번 만져볼 가치가 충분해요. GPU가 픽셀을 어떻게 병렬로 처리하는지, 고급 언어가 우리에게서 무엇을 숨기고 있는지를 감으로 익히게 되거든요. 이런 저수준 감각은 나중에 셰이더 성능을 튜닝하거나, 왜 어떤 코드가 GPU에서 느린지를 이해할 때 의외로 큰 힘이 돼요. 무엇보다, 제약을 걸어두고 노는 게 생각보다 정말 재밌어요.

여러분은 ‘일부러 불편한 방식으로’ 뭔가를 만들어보면서 원리를 깨달았던 경험이 있으세요? 편한 도구만 쓰다 보면 놓치게 되는 것들, 가끔은 바닥까지 내려가 볼 필요가 있지 않을까요?