파운데이션 모델(Foundation Model)이란? 작동 원리부터 주요 예시까지
인사이트
파운데이션 모델(Foundation Model)이란? 작동 원리부터 주요 예시까지
파운데이션 모델의 공통 기반 개념과 사전 학습·미세 조정·RAG·추론의 차이를 설명합니다. BERT와 GPT의 역사적 예시를 살펴보고, 기업에서 모델을 선택할 때 확인할 입력·출력·근거·자료 관리·운영 부담을 정리합니다.

파운데이션 모델은 폭넓은 데이터로 학습하고 여러 후속 작업에 맞게 활용할 수 있는 AI 모델입니다. 회사에서 AI를 고를 때는 모델 이름이나 크기뿐 아니라 어떤 입력을 받고 무엇을 출력하는지, 우리 자료를 어떻게 참고하며 결과를 누가 검토할지 확인해야 합니다.
여러 작업에 활용하는 공통 기반이라는 뜻입니다
Stanford CRFM의 2021년 보고서는 폭넓은 데이터를 대규모로 학습하고 다양한 후속 작업에 적응할 수 있는 모델을 파운데이션 모델이라고 설명합니다. 하나의 기반 모델을 문서 분류, 요약, 질의응답 등 여러 용도로 활용할 수 있다는 점에 주목한 개념입니다.
모든 모델이 텍스트·이미지·음성을 전부 처리한다는 뜻은 아닙니다. 텍스트를 분류하는 모델과 이미지를 생성하는 모델은 입력·출력과 학습 방식이 다를 수 있습니다. ‘파운데이션 모델’이라는 분류만으로 성능, 회사 자료의 정확성, 특정 업무의 안전성을 판단할 수는 없습니다.
사전 학습·미세 조정·자료 검색을 구별하세요
| 과정 | 무엇을 하는가 | 업무에서 확인할 점 |
|---|---|---|
| 사전 학습 | 많은 데이터에서 패턴을 학습해 기반 모델을 만듦 | 어떤 데이터·작업에 적합한 모델인지 |
| 미세 조정 | 추가 데이터로 모델 가중치를 조정 | 학습 데이터 품질, 비용과 평가 방법 |
| RAG | 질문과 관련된 외부 자료를 찾아 생성 과정에서 참고 | 검색 범위, 원문의 최신성·권한 |
| 추론 | 준비된 모델에 입력을 주고 결과를 얻음 | 입력 조건, 응답 시간·비용, 결과 검토 |
생성형 언어 모델은 입력 문맥에 이어질 토큰의 확률을 계산하며 문장을 생성할 수 있습니다. 자연스러운 문장이 곧 사실이라는 뜻은 아니므로 날짜와 수치, 인용은 원문과 대조해야 합니다. BERT처럼 빈 부분을 예측하며 학습한 모델과 생성형 모델의 작동을 모두 ‘다음 단어 생성’ 하나로 설명하는 것도 부정확합니다.
BERT와 GPT는 같은 배경에서 발전한 서로 다른 예입니다
Google의 BERT 공개 설명은 문장의 앞뒤 문맥을 활용하는 사전 학습을 다룹니다. OpenAI의 최초 GPT 발표는 2018년 6월이며 BERT 공개 설명은 같은 해 11월입니다. 따라서 BERT를 이후 GPT의 직접 기반이라고 설명하지 않습니다. 둘은 Transformer를 바탕으로 다른 구조와 학습 목적을 발전시킨 사례로 이해하는 편이 정확합니다.
이들은 발전 과정을 이해하기 위한 역사적 예시이며 현재 모델의 추천 순위가 아닙니다. GPT-4 기술 보고서는 모델 크기와 학습 컴퓨팅 등 세부 정보를 공개하지 않았습니다. 확인되지 않은 파라미터 수를 확정 수치로 비교하지 마세요. 수치가 공개돼 있더라도 같은 업무에서 더 좋은 답변을 보장하지는 않습니다.
회사 자료를 참고시키는 것과 다시 학습시키는 것은 다릅니다
고객 문의 초안을 만들 때 최신 정책 문서를 검색해 참고하도록 하는 상황을 생각해보세요. 이는 모델을 새로 학습시키지 않고도 구성할 수 있는 흐름입니다. 반대로 미세 조정은 모델의 가중치를 바꾸는 과정입니다. 어떤 제품이 ‘회사 맞춤 AI’라고 소개하더라도 실제로 어떤 방식을 쓰는지 구별해야 비용과 관리 범위를 이해할 수 있습니다.
AI Work OS 써팀(SirTEAM)의 참고 문서를 연결하는 AI 에이전트 가이드는 지침, 공개 범위와 참고 자료 설정을 안내합니다. 이 기능을 모든 사내 자료의 자동 학습이나 정확성 보장으로 해석하지 않고, 연결할 자료와 사용할 계정 범위를 확인하는 것이 좋습니다.
모델 선택은 실제 업무의 검토표로 판단하세요
아래는 모델 성능 실측이 아닌 비교 양식입니다. 예를 들어 ‘승인된 정책을 참고해 고객 문의의 답변 초안을 준비한다’를 공통 과제로 정하고, 같은 자료와 질문으로 비교합니다. 공개하기 어려운 자료는 회사 정책상 허용된 환경에서만 사용하세요.
- 입력·출력: 문서, 이미지, 음성 중 필요한 형식과 언어를 지원하는가?
- 정확성: 근거 문서의 숫자·예외를 반영하고 없는 정책을 만들지 않는가?
- 자료 관리: 사용 계정의 권한, 보존·삭제·학습 이용 조건을 확인할 수 있는가?
- 운영 부담: 응답 시간, 호출 비용, 수정·재검토까지 포함한 총 부담은 어떤가?
- 실패 처리: 근거가 없거나 답변이 충돌할 때 사람에게 확인할 경로가 있는가?
가상의 비교 예로 A모델은 문장이 매끄럽지만 예외 조항을 빠뜨리고, B모델은 느리지만 예외와 근거를 맞게 제시할 수 있습니다. 실제 평가에서는 이런 관찰을 기록한 뒤 어떤 항목이 업무에 중요한지 판단하세요. 이 예는 특정 모델의 실제 성능을 뜻하지 않습니다.
자료와 참고 가이드
개념·공식 자료 확인 기준: 2026년 11월 13일. 모델별 현재 요금·성능 순위를 제시하지 않습니다.
Stanford CRFM: Foundation Models 보고서RAG 원논문: 검색과 생성의 결합
GPT-4 기술 보고서: 공개 범위와 한계