챗GPT보다 작은 AI가 공공기관에 들어가는 이유…승부처는 ‘문서를 읽는 능력’

범용 LLM의 크기보다 HWP·PDF·표 구조 해석이 먼저
바이브컴퍼니, 문서 파싱→RAG→GeM→온톨로지 결합…외교부·문체부·NIA로 공공 AX 확장

공공기관의 AI 경쟁은 누가 더 거대한 언어모델을 보유했느냐와 다른 방향으로 흐르고 있다. 법령·보고서·민원·정책자료처럼 기관 내부에 축적된 문서를 정확히 읽고 근거를 찾아 답하는 능력이 중요해지면서, 바이브컴퍼니는 범용 AI보다 도메인 특화 모델과 문서처리·RAG를 결합한 ‘업무형 AI’로 시장을 파고들고 있다.

화려한 LLM보다 어려운 HWP·PDF

공공 AI의 첫 번째 장벽은 질문에 답하는 LLM이 아니라 답의 근거가 들어 있는 문서를 제대로 읽는 과정이다.

HWP·PDF에 제목·본문·표·그래프·이미지가 복합적으로 배치되면 단순 텍스트 추출만으로 행과 열, 항목과 수치의 관계가 무너질 수 있다. 검색이 정확하지 않으면 그 뒤에 아무리 뛰어난 LLM을 붙여도 잘못된 근거로 답할 가능성이 커진다.

바이브컴퍼니가 자체 문서 파서를 앞세우는 이유다. 문서를 구조와 의미 단위로 정리한 뒤 필요한 내용을 검색하고, RAG가 해당 근거를 LLM에 공급하는 방식이다. 회사의 VAIV GeM 역시 공공·금융 등 전문 도메인과 표·그래프 등 비정형 데이터 처리에 초점을 두고 있다.

RAG 다음은 ‘관계’를 읽는 온톨로지

검색만으로 해결하기 어려운 질문에는 온톨로지가 들어간다. 바이브컴퍼니는 VAIV KMS에 온톨로지와 RAG를 결합, 상품·속성·시점 같은 지식의 관계를 그래프로 연결하는 기능을 적용했다. 단순히 문장을 찾아주는 것을 넘어 여러 조건이 얽힌 질문을 처리하려는 것이다.

공공행정에서는 이 구조가 더 중요하다. 법률·시행령·고시·지침과 개정 시점이 서로 연결돼 있어 특정 문장 하나보다 어떤 규정이 언제 누구에게 적용되는지가 답의 핵심이 되기 때문이다.

외교부 301억원 사업부터 KISDI까지

기술은 실제 공공사업으로 연결되고 있다. 바이브컴퍼니는 LG CNS 컨소시엄으로 외교부 301억원 규모 지능형 외교안보 데이터 플랫폼 사업에 지분 28%로 참여해 GeM3, RAG 검색·질의응답, 외교 데이터의 온톨로지·벡터 구조화를 담당한다.

NIA 초거대 AI 사업에서는 부산시·국민연금공단·HUG·서울소방 등 6개 기관 과제를 수행해 회사 발표 기준 모두 ‘우수’ 평가를 받았다. 문체부의 14억원 정책여론수렴시스템 고도화도 맡았으며, KISDI의 KINDA에는 향후 다른 LLM으로 교체할 수 있는 플러그인형 구조를 적용한다.

550억건의 의미…AI 학습량보다 ‘맥락’

바이브컴퍼니가 공개한 데이터 자산은 550억건 이상이다. 그러나 이를 단순히 ‘LLM 학습 데이터 550억건’으로 해석해서는 안 된다. 26년간 축적한 소셜 담론·산업자료·기업정보 등을 AI가 활용할 수 있도록 Trend·Issue·Research·Profiling·Finance 형태로 구조화한 데이터 자산에 가깝다.

Next Insight 분석 | 공공 AI의 경쟁력은 ‘말솜씨’보다 근거

바이브컴퍼니의 전략이 기술적으로 자리를 잡았다고 곧바로 사업 성공을 의미하지는 않는다. 올해 상반기 별도 매출은 56억6000만원으로 11.7% 늘고 영업손실은 14억9000만원으로 58.3% 줄었지만 적자는 아직 남아 있다.

결국 다음 시험은 수주한 공공 AX 사업을 반복 가능한 매출과 수익으로 전환하는 것이다.

그러나 시장의 방향은 분명해지고 있다. 공공 AI에서는 얼마나 유창하게 말하느냐보다 기관이 수십 년간 축적한 문서를 얼마나 정확히 읽고, 근거를 찾아 관계까지 설명하느냐가 더 중요할 수 있다. 거대한 범용 AI와 작은 특화 AI의 승부도 모델 크기가 아니라 바로 그 지점에서 갈릴 가능성이 크다.

취재·작성: 김귤연 기자 | Next Insight News
nextinsight.news@gmail.com

참고자료

바이브컴퍼니 공식 기술·보도자료
한국지능정보사회진흥원(NIA) 초거대 AI 기반 플랫폼 이용지원 사업 관련 자료
바이브컴퍼니 2026년 상반기 실적 관련 공시·보도자료

#바이브컴퍼니 #공공AI #공공AX #생성형AI #RAG #sLLM #VAIVGeM #온톨로지 #문서AI #NextInsightNews

카카오톡으로 Next Insight News 받아보기
하루 1~2회, 꼭 봐야 할 주요뉴스와
Next Insight 분석을 정리해 보내드립니다.
Ch+ Next Insight News 채널 추가
기사제보·문의도 카카오톡 채널에서 받습니다.

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤