AI 모델도 이제 공급망 보안 대상이다: OpenAI·허깅페이스 공동 대응

OpenAI와 허깅페이스가 모델 평가 과정에서 발생한 보안 사고에 공동 대응하며, AI 모델 자체가 새로운 공격 표면이 되었음을 다시 확인시켰다. 핵심은 외부에서 받은 모델과 데이터셋을 '신뢰할 수 있는 코드'처럼 취급해선 안 된다는 점이다. 허깅페이스 같은 오픈 저장소에서 내려받은 가중치 파일은 역직렬화(pickle) 시 임의 코드 실행으로 이어질 수 있고, 평가·파인튜닝 파이프라인이 곧 침투 경로가 된다. 국내 IT 종사자에게 주는 시사점은 명확하다. 첫째, 모델도 라이브러리처럼 출처·버전·해시를 검증하는 공급망 관리 대상으로 다뤄야 한다. 둘째, safetensors 등 안전한 포맷을 우선 쓰고, 모델 로딩과 평가는 격리된 샌드박스 환경에서 실행해야 한다. 셋째, 대기업조차 사고를 겪는 만큼 '벤더가 알아서 안전하게 해줄 것'이라는 가정을 버리고 자체 검증 절차를 갖춰야 한다. AI 도입 속도가 빠른 지금, 보안은 선택이 아니라 기본 설계 요건이다.