AMD가 만든 로컬 LLM 서버 'Lemonade' — GPU와 NPU를 동시에 쓴다고요?
## AMD가 로컬 AI 시장에 본격적으로 뛰어들었어요 AI를 내 컴퓨터에서 직접 돌리고 싶은데, NVIDIA GPU가 없으면 좀 막막했잖아요. 그런 분들에게 반가운 소식이에요. AMD가 'Lemonade'라는 오픈소스 로컬 LLM 서버를 공개했...
Qwen3.6-Plus 공개 — 중국발 AI 에이전트 시대가 한 발짝 더 가까워졌어요
## 알리바바가 또 한 수를 던졌어요 알리바바 클라우드의 AI 연구팀이 Qwen(통의천문) 시리즈의 최신 모델인 Qwen3.6-Plus를 공개했어요. 이번 모델의 부제가 "Towards Real World Agents"인데요, 이름에서 알 수 있듯이...
LiteLLM 오픈소스 공급망 공격으로 AI 스타트업 Mercor가 해킹당하다
## 무슨 일이 있었나요? AI 채용 스타트업 **Mercor**가 사이버 공격을 당했는데요, 흥미로운 건 공격 경로예요. Mercor의 시스템을 직접 뚫은 게 아니라, Mercor가 사용하던 오픈소스 프로젝트인 **LiteLLM**이 먼저 침해...
[심층분석] AI가 2004년 플립폰 사진을 재현하다 — 이미지 생성 AI는 어떻게 '시대의 질감'까지 학습했을까
## 플립폰으로 찍은 2004년 대학 파티, AI가 그걸 만들어냈다고요? 여러분, 2004년을 기억하시나요? 아이폰은 아직 세상에 없었고, 우리 손에는 폴더폰(플립폰)이 들려 있었어요. 카메라 화소는 30만~130만 화소가 고작이었고, 플래시도 ...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
OpenAI의 무덤: 발표만 하고 사라진 제품과 파트너십 총정리
## 발표할 때는 화려했는데, 그 뒤로 소식이 없다? OpenAI 하면 ChatGPT, GPT-4, DALL-E 같은 성공적인 제품들이 떠오르잖아요. 그런데 OpenAI가 야심 차게 발표했다가 조용히 사라지거나, 아직까지 출시되지 않은 제품과 파트너...
데이터 사이언티스트의 역습: AI 시대에 오히려 더 중요해진 이유
## "데이터 사이언티스트는 끝났다"고 했던 사람들에게 몇 년 전부터 "데이터 사이언티스트라는 직업은 사라질 것"이라는 이야기가 돌았어요. AutoML이 나오고, ChatGPT가 코드를 짜주고, 누구나 데이터 분석을 할 수 있는 도구가 쏟아지니까...
아이폰과 맥북에서 대형 AI 모델을 돌린다? SwiftLM의 TurboQuant 압축 기술 살펴보기
## 로컬 AI, 점점 현실이 되고 있어요 요즘 AI 모델을 클라우드 API 없이 내 기기에서 직접 돌리는 "로컬 AI" 흐름이 점점 거세지고 있어요. 프라이버시 걱정 없이, 인터넷 연결 없이도, API 비용 없이 AI를 쓸 수 있다는 건 정말 매력...
OpenAI 기업가치 8,520억 달러: AI 버블인가, 새로운 현실인가
## 무슨 일이 있었나요 OpenAI가 새로운 펀딩 라운드를 마무리하면서 기업가치가 8,520억 달러(약 1,200조 원)로 책정됐어요. 이 숫자가 어느 정도인지 감이 잘 안 올 수 있는데, 비교해보면 명확해져요. 삼성전자의 시가총액이 약 350...
1-Bit LLM이 상용화 단계에 진입했다: PrismML의 '1-Bit Bonsai'
## 1비트 LLM이 뭔데, 왜 중요한 건가요 LLM(대규모 언어 모델)을 돌려본 분이라면 한 번쯤 느꼈을 거예요. "이거 GPU가 몇 개 필요한 거야?" 하는 그 막막함. GPT 급 모델을 로컬에서 돌리려면 고가의 GPU 메모리가 수십 GB 필...
파라미터 13개로 추론을 학습시킨다고? TinyLoRA가 보여준 극한의 효율
## 13개 파라미터로 추론 능력을 학습시킬 수 있다? 요즘 AI 모델들은 수십억, 수천억 개의 파라미터를 자랑하는데요. 그런 시대에 고작 13개의 파라미터만으로 모델에게 "추론"을 가르칠 수 있다는 논문이 나왔어요. TinyLoRA라는 이 연구...
Claude Code 소스 유출로 드러난 내부 구조: 가짜 도구, 감정 분석 정규식, 언더커버 모드까지
## Claude Code의 속살이 드러났다 Anthropic의 AI 코딩 에이전트인 Claude Code의 내부 소스 코드가 유출되면서, 그동안 베일에 싸여 있던 내부 동작 방식이 낱낱이 공개됐어요. 이번 유출로 드러난 내용들이 꽤 흥미로운데요, ...
Cerno — LLM의 추론 능력을 역이용한 새로운 CAPTCHA가 등장했어요
## CAPTCHA, 이제 사람이 아니라 AI를 걸러야 하는 시대 인터넷을 쓰다 보면 "로봇이 아닙니다"를 클릭하거나, 흐릿한 사진에서 신호등을 찾아 클릭하는 경험을 해보셨을 거예요. 이게 바로 CAPTCHA(캡차)인데요, 원래 목적은 봇과 사람...
토큰당 300KB에서 69KB로: LLM의 KV 캐시 문제, 대체 뭐가 문제이고 어떻게 풀고 있을까
## LLM이 긴 대화를 기억하려면 엄청난 메모리가 필요해요 ChatGPT나 Claude 같은 대규모 언어 모델(LLM)을 써보면, 대화가 길어질수록 응답이 느려지거나 비용이 올라가는 걸 느끼신 적 있을 거예요. 이게 단순히 "텍스트가 많아서"만...
[심층분석] 마이크로소프트가 음성 AI를 통째로 오픈소스로 풀었다 — VibeVoice가 바꿀 음성 기술의 판도
## 음성 AI, 드디어 누구나 쓸 수 있는 시대가 열리다 음성 인식(STT)이나 음성 합성(TTS)이라고 하면, 많은 분들이 시리나 구글 어시스턴트 같은 서비스를 떠올리실 거예요. 그런데 이런 기술을 직접 만들거나 커스터마이징하려면 어마어마한 ...
[심층분석] ChatGPT로 집을 5일 만에 팔았다 — AI가 부동산 중개업을 대체할 수 있을까?
## 부동산 중개인 없이, AI 하나로 집을 판 사람이 나타났어요 플로리다에 사는 로버트 레바인(Robert Levine)이라는 분이 꽤 대담한 실험을 했어요. 집을 팔면서 부동산 중개인을 쓰지 않고, **ChatGPT 하나로 전 과정을 처리**...
구글이 공개한 시계열 파운데이션 모델 TimesFM — 2억 파라미터로 16K 컨텍스트 지원
## 시계열 예측에도 파운데이션 모델 시대가 왔어요 구글 리서치에서 **TimesFM**이라는 시계열(Time-Series) 전용 파운데이션 모델을 공개했어요. 2억(200M) 파라미터 규모에 **16,000 토큰 길이의 컨텍스트 윈도우**를 지원하...
Ollama가 Apple Silicon에서 MLX 엔진으로 전환 — 맥에서 로컬 LLM 성능이 확 달라집니다
## 맥에서 로컬 LLM 돌리는 분들 주목하세요 Ollama가 Apple Silicon(M1, M2, M3, M4 칩) 환경에서 **MLX 기반 추론 엔진**을 프리뷰로 지원하기 시작했어요. 지금까지 Ollama는 내부적으로 llama.cpp를 ...
[심층분석] Hermes Agent: 스스로 배우고 성장하는 AI 에이전트, 왜 주목해야 할까
## 들어가며: AI 에이전트, 이제는 '학습'까지 스스로 한다 요즘 AI 에이전트라는 단어, 정말 많이 들리죠. ChatGPT한테 "이거 해줘"라고 시키는 것과는 좀 다른 개념인데요. AI 에이전트란 쉽게 말해서, **사람이 일일이 지시하지 않...
AI 에이전트가 몰래 반란을 꾸민다면? — 'Agents of Chaos' 연구 이야기
## AI 에이전트, 이제 도구를 직접 쓰잖아요 요즘 AI 모델의 트렌드가 완전히 바뀌었어요. 예전에는 "질문하면 텍스트로 대답하는" 챗봇이었다면, 지금은 **"스스로 계획을 세우고, 도구를 사용하고, 여러 단계의 작업을 수행하는" 에이전트**로...
검색 엔진에 NSFW 필터를 직접 만든 이야기 — Marginalia의 실용적 접근법
## 독립 검색 엔진이 마주한 현실적인 문제 Marginalia라는 검색 엔진을 들어보신 적 있나요? 구글이나 빙 같은 대형 검색 엔진과는 완전히 다른 방향을 추구하는 독립 검색 엔진인데요. 광고 없이, 개인 블로그나 소규모 웹사이트 같은 "인터넷의...
