온톨로지(Ontology)는 조직이 다루는 개념 — 설비, 공정, 제품, 문서, 사람 — 과 그들 사이의 관계를 기계가 이해할 수 있는 형태로 정의한 지식 체계입니다. 산업 현장에서는 흔히 "산업 지식그래프"라고 부릅니다.

왜 LLM만으로는 부족한가

LLM은 언어를 잘 다루지만 귀사의 문맥을 모릅니다. "3호기 다운타임 원인"을 물었을 때 필요한 것은 일반 지식이 아니라, 3호기가 어떤 설비이고 어떤 공정에 속하며 최근 어떤 점검 기록과 알람이 있었는지의 관계입니다. 이 관계를 제공하는 층이 온톨로지입니다. 온톨로지 없는 RAG는 문서 검색기에 머물고, 온톨로지 위의 RAG는 의사결정 지원 시스템이 됩니다.

글로벌 산업 AI가 증명한 접근

Palantir의 Foundry, Cognite의 Data Fusion 등 글로벌 산업 AI 플랫폼들은 공통적으로 온톨로지를 아키텍처의 중심에 둡니다. 데이터를 먼저 연결해 문맥을 만들고, 그 위에 에이전트와 애플리케이션을 올리는 순서입니다.

실제 구축에서 배운 것

조슈아앤컴퍼니는 SK그룹 전사 경영 지식 75,000건을 지식 체계로 구조화해 응답 시스템으로 배포했고, 회의 맥락을 지식그래프로 연결하는 MICKY, 제조 데이터를 온톨로지로 연결하는 TALOS를 직접 만들어 운영합니다. 경험상 온톨로지 설계에서 가장 중요한 것은 기술이 아니라 현업의 언어를 그대로 개념 체계에 반영하는 것입니다.