칩이 '진짜로' 어떻게 도는지 보려고, MIT가 운영체제를 직접 만들었어요

왜 운영체제를 직접 만들었을까

우리가 쓰는 CPU는 사실 '설명서에 적힌 대로만' 동작하지 않아요. 칩 제조사가 공개하는 명령어 집합, 그러니까 ISA(쉽게 말해 '이 CPU가 알아듣는 명령어 목록')는 일종의 약속이에요. 근데 실제 실리콘 안에서는 캐시, 분기 예측, 비순차 실행 같은 온갖 숨은 최적화가 돌아가거든요. 문서에 적힌 깔끔한 약속과 실제 칩의 복잡한 속사정 사이에는 꽤 큰 간극이 있는 거죠. MIT 연구진이 들여다보고 싶었던 게 바로 이 '문서와 현실의 틈새'였어요.

문제는 측정 방법이었어요. 리눅스 같은 일반 운영체제 위에서 칩의 행동을 재려고 하면, OS가 백그라운드에서 하는 수천 가지 일들, 즉 스케줄링이나 인터럽트, 메모리 관리 같은 게 죄다 노이즈로 끼어들어요. 칩 본연의 행동을 깨끗하게 볼 수가 없는 거죠. 그래서 연구진은 측정에 방해되는 걸 다 걷어낸, 자기들만의 아주 가벼운 운영체제를 바닥부터 직접 만들었어요.

그래서 OS가 뭔데요

잠깐 기초부터 갈게요. 운영체제(OS)는 하드웨어와 우리가 만든 프로그램 사이에 끼어 있는 중간 관리자예요. CPU 시간을 누구한테 줄지 나누고, 메모리를 배분하고, 키보드·디스크 같은 장치를 다루는 일을 대신 해주죠. 평소엔 이 친구가 알아서 다 해주니 편한데, 정밀 측정을 할 때는 오히려 이 '알아서 해주는' 부분들이 방해가 돼요. OS를 직접 만든다는 건, 칩 위에서 '맨바닥(bare metal)'에 가까운 완전한 통제권을 손에 쥔다는 뜻이에요.

핵심 내용

이렇게 직접 만든 OS 위에서는 아주 정밀한 실험이 가능해져요. '이 명령어가 정확히 몇 사이클 걸리나', '캐시에 데이터가 있을 때와 없을 때 타이밍이 어떻게 갈리나' 같은 걸 깨끗한 환경에서 잴 수 있거든요. 변수를 하나만 바꿔가며 칩의 반응을 관찰하는, 실험실 같은 통제된 측정이 되는 거죠.

이게 왜 중요하냐면, 보안 쪽에서 Spectre(스펙터)나 Meltdown(멜트다운) 같은 유명한 공격이 바로 이 '미세한 타이밍 차이'를 악용한 거였거든요. 분기 예측이나 비순차 실행 같은 칩의 숨은 동작을 이용해서, 원래는 못 봐야 할 메모리 내용을 타이밍으로 슬쩍 엿보는 방식이었어요. 칩의 진짜 거동을 정밀하게 이해해야 이런 취약점도 찾아내고 막을 수 있어요. 성능 최적화도 마찬가지고요.

업계 맥락에서 보면

사실 MIT는 교육용으로 xv6라는 작은 유닉스 계열 OS를 만들어서 운영체제 수업에 써온 걸로 유명해요. 운영체제를 책으로 '읽기만' 하지 말고 '직접 만들어보며' 이해하자는 전통이 있는 학교죠. 이번 프로젝트는 그 정신을 교육 너머로 끌고 가서, 하드웨어의 실제 거동을 연구하는 도구로 확장한 거예요. nand2tetris(논리 게이트부터 컴퓨터를 쌓아 올리는 교육 프로젝트)나 CSAPP 같은 '바닥부터 이해하자'는 흐름과도 같은 결에 있고요. 추상화 위에 또 추상화를 쌓는 시대일수록, 가끔은 맨 밑바닥을 직접 들여다보는 연구가 더 값지다는 걸 보여줘요.

한국 개발자에게 주는 시사점

우리 대부분은 높은 추상화 위에서 일해요. 프레임워크가 다 해주고, 클라우드가 다 해주죠. 그래서 'CPU가 실제로 어떻게 도는가'는 평소엔 안 보여도 되는 영역처럼 느껴져요. 하지만 성능 엔지니어링, 보안, 임베디드처럼 한계까지 쥐어짜야 하는 분야로 가면 이 하드웨어-소프트웨어 경계에 대한 감각이 실력을 가르는 지점이 돼요. 당장 운영체제를 만들 일은 없더라도, xv6 코드를 따라 읽어보거나 CSAPP를 한 번 정독해두는 것만으로도 시야가 확 넓어질 거예요. '아, 내 코드 아래에 이런 세상이 있었구나' 하는 감각이요.

마무리

한 줄로 정리하면, MIT는 칩의 숨은 진짜 동작을 깨끗하게 측정하려고, 노이즈를 걷어낸 전용 운영체제를 직접 만들어 '문서와 현실의 간극'을 들여다보고 있어요.

여러분은 평소 추상화 아래 세상을 얼마나 들여다보나요? 'OS나 하드웨어는 알 필요 없다'는 의견과 '그래도 밑바닥을 알아야 진짜다'는 의견, 어느 쪽에 더 공감하세요?