아이폰 안에 들어간 LLM을 공짜로 쓴다 — 애플 Foundation Models 프레임워크 파헤치기

이제 AI 기능 넣자고 매번 서버에 돈 낼 필요가 없어졌어요

그동안 앱에 AI 기능 하나 넣으려면 고민이 많았죠. 외부 LLM API를 부르자니 요청할 때마다 돈이 나가고, 사용자 데이터가 서버로 넘어가니 개인정보도 신경 쓰이고, 인터넷이 끊기면 아예 동작을 안 하고요. 애플이 내놓은 Foundation Models 프레임워크는 바로 이 고민을 정면으로 건드려요. 한마디로 "아이폰·맥 기기 안에 이미 들어 있는 LLM(거대 언어 모델)을, 개발자가 Swift 코드 몇 줄로 직접 갖다 쓰게 해 주겠다"는 거예요.

핵심은 '기기 안에서, 공짜로, 오프라인으로' 돈다는 점

이게 뭐냐면, 애플 인텠리전스(Apple Intelligence)를 돌리는 그 온디바이스 모델을 개발자에게 API로 열어준 거예요. 여기서 '온디바이스'라는 말이 중요한데요, 모델이 클라우드 서버가 아니라 사용자 기기 안에서 직접 돈다는 뜻이거든요. 그래서 세 가지가 따라와요. 첫째, 호출 비용이 0원이에요. 사용자가 백 번을 부르든 만 번을 부르든 개발자한테 청구서가 안 날아와요. 둘째, 데이터가 기기 밖으로 안 나가니까 개인정보 측면에서 훨씬 안전해요. 셋째, 비행기 모드에서도 동작해요.

쓰는 방식도 꽤 깔끔해요. 세션 객체를 하나 만들어서 프롬프트를 던지면 답을 받는 구조인데, 진짜 강력한 건 구조화된 출력(Guided Generation) 기능이에요. 예를 들어 Swift에서 구조체에 @Generable 같은 표시를 붙여 두면, 모델이 그냥 줄글을 뱉는 게 아니라 그 구조체 모양에 딱 맞춰서 결과를 채워줘요. "제목은 String, 태그는 배열, 우선순위는 1~5 정수" 이렇게 정의해 두면 그 틀에 맞는 데이터가 나오는 거죠. AI 출력 파싱하다가 깨져서 고생해 본 분이라면 이게 얼마나 편한지 바로 아실 거예요. 거기에 함수를 모델에게 쥐여주고 필요할 때 호출하게 하는 도구(tool) 연동까지 됩니다.

단, '만능 천재'는 아니라는 걸 알고 써야 해요

여기서 솔직해질 필요가 있어요. 이 모델은 기기 안에서 돌아야 하니까 크기가 작아요. 수십억 파라미터급의 '경량 모델'이라, 클라우드에서 도는 거대 모델처럼 세상만사를 다 알거나 어려운 코딩을 척척 해내진 못해요. 대신 잘하는 영역이 분명한데요, 요약, 분류, 정보 추출, 태그 달기, 짧은 문장 생성, 말투 다듬기 같은 가볍고 반복적인 작업에 아주 잘 맞아요. 그러니까 "앱 안의 작은 똑똑한 비서"로 생각하면 딱이지, "못 하는 게 없는 만능 AI"로 기대하면 실망할 수 있어요. 또 애플 인텠리전스를 지원하는 비교적 최신 기기에서만 돌아간다는 점도 기억해 두세요.

업계 흐름에서 보면, 'AI의 무게 중심'이 기기로 내려오는 신호

이 발표를 큰 그림에서 보면 재미있어요. 지금까지 AI는 클라우드의 거대 모델이 다 처리하는 게 당연했는데, 점점 "가벼운 일은 기기 안에서 처리하자"는 흐름이 강해지고 있거든요. 안드로이드 쪽도 구글이 제미나이 나노(Gemini Nano)를 기기 내장 모델로 깔아서 개발자에게 열어주는 방향으로 가고 있어요. 결국 모바일 양대 진영이 둘 다 '온디바이스 AI 기본 탑재'로 가고 있는 거죠.

그래서 앞으로는 설계할 때 "이 작업은 기기 안의 작은 모델로 충분한가, 아니면 클라우드의 큰 모델을 불러야 하는가"를 나눠서 판단하는 하이브리드 전략이 표준이 될 가능성이 높아요. 자잘하고 빈번한 건 공짜로 기기에서, 정말 무거운 추론만 비싼 클라우드로 보내는 식으로요.

한국 개발자에게 주는 시사점

iOS 앱을 만드는 분이라면 이건 당장 챙겨볼 가치가 충분해요. 그동안 API 비용 때문에 못 넣었던 소소한 AI 기능들, 예를 들면 메모 자동 요약, 입력 내용 자동 분류, 사진 설명 생성 같은 걸 운영 비용 부담 없이 붙일 수 있게 됐으니까요. 특히 개인정보 규제가 까다로운 의료·금융 쪽 앱이라면, 데이터가 기기 밖으로 안 나간다는 점 하나만으로도 매력이 큽니다. 다만 '작은 모델의 한계'를 정확히 이해하고, 잘하는 작업에만 맡기는 설계 감각이 핵심이에요.

한줄 정리: 무겁고 비싼 AI는 클라우드에, 가볍고 잦은 AI는 기기 안에 — 이 분업이 이제 모바일의 기본기가 되어 가고 있어요.

여러분 앱에는 '굳이 클라우드까지 안 가도 되는' 가벼운 AI 작업, 어떤 게 있을 것 같으세요?