[한영자막] 에이전트 시스템에 온톨로지가 필요한 이유 — 프랭크 코일, UC 버클리

한 줄 핵심

에이전트의 환각과 오작동을 줄이려면 LLM의 확률적 생성에 온톨로지·RDFS·OWL 같은 형식적 지식 구조와 검증 루프를 결합해, 도구 호출과 결과 판단을 가드레일 안에서 운영해야 한다.

시간별 요약

1. 0:12
   AI와 에이전트의 시대에 컴퓨터과학의 가치는 단순한 지식 암기보다 직접 만들고 써보는 능력으로 이동하고 있다. 손으로 쓰고 그리며 학습하는 방식이 이해를 빠르게 만들고, 오늘의 핵심 주제는 에이전트와 온톨로지가 어떻게 결합되는가이다.
2. 3:00
   에이전트는 인지하고 판단해 행동하는 시스템으로, 온톨로지는 엔티티와 관계, 속성을 형식적으로 표현하는 공유 개념 체계이다. 결국 에이전트에게는 도메인 세계를 설명하는 구조화된 지식이 필요하며, 이는 그래프 기반 지식 표현과 자연스럽게 맞물린다.
3. 5:02
   LLM은 본질적으로 확률적이기 때문에 환각이 생기지만, 이를 완전히 없애기보다 형식적 규칙으로 통제하는 접근이 중요하다. 네오-심볼릭 AI는 신경망의 유연성과 기호 기반 규칙·지식그래프의 명시성을 결합해 모델을 가드레일 안에 두는 방식이다.
4. 6:00
   온톨로지는 전문가가 위에서부터 설계하는 방식과 실제 사용 로그나 고객 반응에서 아래로부터 확장하는 방식으로 만들 수 있다. schema.org, org, friend of a friend, Dublin Core, DBPedia 같은 기존 표준을 활용하면 중복 구축을 줄이고 곧바로 쓸 수 있는 지식 구조를 얻을 수 있다.
5. 9:00
   RDFS와 OWL은 그래프 자체를 바꾸기보다 추론과 제약을 덧붙여 의미를 강화한다. domain·range, transitive property, functional property, disjoint property 같은 규칙을 쓰면 잘못된 관계나 값, 중복된 사실을 자동으로 잡아내고, 에이전트 루프에서 LLM의 출력을 검증하는 장치가 된다.
6. 12:00
   에이전트는 while true 같은 루프 구조로 도구를 호출하고, stop reason을 확인한 뒤 결과가 타당할 때만 다음 단계로 넘어가야 한다. 루프는 강력하지만 무한 반복과 토큰 비용 폭증을 부를 수 있으므로, pydantic 타입 검증과 온톨로지 기반 검증, human-in-the-loop를 함께 둬야 한다.

실무 인사이트

• 에이전트에 도구를 붙일 때는 먼저 온톨로지로 입력·출력의 의미를 정의하고, 그다음 pydantic과 OWL 규칙으로 형식 검증을 거치는 구조가 가장 안전하다.
• 환각을 줄이는 핵심은 LLM을 더 똑똑하게 만드는 것만이 아니라, 잘못된 답이 시스템에 들어오기 전에 관계 제약과 값 제약으로 걸러내는 것이다.
• 새 온톨로지를 처음부터 만들기보다 schema.org, Dublin Core, DBPedia 같은 기존 표준을 재사용하면 설계 비용을 줄이고 상호운용성을 높일 수 있다.