커널 함수, 그림으로 한 번에 이해하기 — '안 풀리던 문제'를 푸는 마법의 트릭

직선으로는 도저히 나눌 수 없는 데이터

머신러닝 공부하다 보면 SVM(서포트 벡터 머신) 같은 데서 커널(kernel) 이라는 단어가 꼭 튀어나오는데요. 이름부터 좀 무섭게 생겨서 "아 이건 수학 잘하는 사람들 거지" 하고 넘긴 분들 많을 거예요. 그런데 핵심 아이디어 하나만 잡으면 의외로 직관적이거든요. 오늘 그 직관을 그림 그리듯 풀어볼게요.

상황을 하나 상상해 봅시다. 종이 위에 점들이 찍혀 있는데, 안쪽엔 빨간 점이 동그랗게 모여 있고 그 바깥을 파란 점들이 도넛처럼 둘러싸고 있어요. 이 둘을 직선 하나로 나눠보세요. 못 나누죠? 아무리 그어도 빨강과 파랑이 섞입니다. 이렇게 '직선(선형)으로 분리가 안 되는' 데이터가 현실엔 정말 많아요.

차원을 하나 올리면 마법이 일어난다

여기서 커널의 핵심 아이디어가 등장해요. "평면에서 못 나누면, 한 차원 위로 올려보자" 는 발상이에요.

아까 그 도넛 모양 데이터를 생각해 볼게요. 각 점의 위치 (x, y)에 더해서 '중심에서 얼마나 멀리 있나'를 나타내는 새로운 값, 즉 높이(z = x² + y²)를 하나 추가해 보는 거예요. 그러면 평면에 깔려 있던 점들이 3차원 공간으로 떠오르는데, 중심에 가까운 빨간 점은 낮게, 바깥쪽 파란 점은 높게 솟아오릅니다. 마치 평평한 종이 가운데를 쏙 눌러서 그릇처럼 만든 느낌이죠. 그러면 이제 어떻게 되냐면, 적당한 높이에서 평평한 칼(평면)로 싹 자르면 빨강과 파랑이 깔끔하게 나뉘어요! 2차원에선 불가능했던 게 3차원에선 직선(정확히는 평면) 하나로 해결되는 거죠.

이게 커널의 본질이에요. 데이터를 더 높은 차원으로 옮기면, 복잡하게 꼬여 있던 경계가 단순한 직선/평면으로 풀린다는 것.

그런데 '트릭'이라고 부르는 이유

여기서 문제가 하나 있어요. 차원을 막 올리면 계산량이 폭발하거든요. 2차원을 100차원으로 올린다고 생각해 보세요. 모든 점을 100차원 좌표로 일일이 변환하고, 그 거대한 벡터들끼리 계산하면 컴퓨터가 죽어나겠죠.

그래서 나온 게 그 유명한 커널 트릭(kernel trick) 입니다. 알고 보니 SVM 같은 알고리즘은 실제로 데이터의 '고차원 좌표 자체'가 필요한 게 아니라, 두 점 사이의 내적(dot product, 쉽게 말해 '두 점이 얼마나 비슷한가'를 나타내는 값) 만 있으면 충분하더라는 거예요. 그리고 신기하게도, 고차원으로 변환한 뒤의 내적값을, 변환을 실제로 하지 않고도 원래 좌표만 가지고 한 방에 계산할 수 있는 공식이 존재했던 거죠. 그 공식이 바로 커널 함수입니다.

대표적인 커널 함수 몇 개만 소개하면요:

• 선형 커널: 그냥 원래대로 내적. 변환 없음.
• 다항식 커널: (x·y + c)^d 형태로, 곡선 형태의 경계를 만들 수 있어요.
• RBF(가우시안) 커널: exp(-γ‖x−y‖²) 형태인데, 사실상 무한 차원으로 올리는 효과가 있어서 거의 모든 모양의 경계를 그릴 수 있는 만능에 가까운 녀석이에요. 실무에서 일단 막 쓰기 좋습니다.

업계 맥락에서 보면

요즘은 딥러닝이 워낙 강세라 SVM이 예전만큼 화려하진 않아요. 그런데 커널 개념 자체는 여전히 살아있습니다. 데이터가 적을 때(딥러닝은 데이터 많이 필요하죠) SVM은 여전히 강력하고, 가우시안 프로세스 같은 확률 모델, 그리고 최근 일부 연구에선 신경망과 커널의 연결고리(NTK, 뉴럴 탄젠트 커널)까지 논의되거든요. '비슷함을 측정하는 함수'라는 커널의 발상은 추천 시스템이나 이상치 탐지에도 응용돼요.

한국 개발자에게 주는 시사점

사이킷런(scikit-learn)에서 SVC(kernel='rbf') 한 줄이면 바로 써볼 수 있어요. 작은 분류 문제, 특히 데이터가 수천 건 수준이고 딥러닝 쓰기엔 과한 상황에서 베이스라인으로 깔아두기 딱 좋습니다. 그리고 무엇보다, "안 풀리는 문제는 차원을 바꿔서 본다" 는 커널의 사고방식 자체가 엔지니어로서 두고두고 써먹을 수 있는 무기예요. 피처 엔지니어링의 본질이 바로 이거거든요.

마무리

커널은 결국 "못 나누는 데이터를 높은 차원으로 올려서 단순하게 나누되, 그 비싼 계산은 영리한 공식으로 건너뛰는" 기술이에요. 여러분은 실무에서 SVM 같은 고전 머신러닝을 아직 쓰시나요, 아니면 무조건 딥러닝부터 꺼내시나요?