[한영자막] 글을 쓰지 않는 AI 모델? Jev의 정체는 무엇일까요?

한 줄 핵심

Jev는 텍스트를 생성하는 대신 각 선택지의 확률을 바로 내놓는 시스템 1형 AI로, 빠르고 보정된 판단이 필요한 소프트웨어 의사결정과 가드레일에 LLM보다 더 잘 맞는다.

시간별 요약

1. 0:00
   Jev와 시스템 1형 AI 소개 Jev는 텍스트를 쓰는 모델이 아니라 선택지별 확률을 반환하는 새로운 유형의 AI 모델이다. 빠르고 자동적인 판단을 담당하는 시스템 1 사고에 대응하는 모델로 소개된다.
2. 1:29
   LLM과 추론 모델과의 비교 일반적인 LLM은 토큰을 하나씩 생성하고, 추론 모델은 생각 과정을 더 길게 전개한다. 반면 소프트웨어 안의 많은 판단은 복잡한 추론보다 빠른 즉답형 판정에 가깝다.
3. 2:09
   처리하는 의사결정의 종류 고객 지원 메일에서 환불 여부, 처리 팀, 긴급도처럼 즉시 판정해야 하는 질문들이 대표적이다. LLM으로 JSON 형식 응답을 받는 방식도 가능하지만, 그 답이 얼마나 확실한지는 신뢰하기 어렵다.
4. 4:04
   확률을 산출하는 방식 Jev는 상태 데이터와 여러 질문을 한 번에 입력받아, 텍스트가 아니라 각 항목의 확률을 동시에 반환한다. 예/아니오, 선택형, 점수형 질문을 각각 다루며, 결과가 얼마나 불확실한지도 수치로 드러난다.
5. 6:52
   모델 신뢰도 보정 보정된 확률은 80%라고 말하면 실제로도 약 80% 맞아야 한다는 뜻이다. 일반 LLM은 RLHF 때문에 자신감 있는 말투를 학습할 수 있지만, 최종 정답만 맞으면 되는 학습은 확률의 정확도까지 보장하지 않는다.
6. 9:18
   RLCD Jev는 calibrated decisions를 위한 강화 학습으로 학습되며, 각 선택지의 확률 자체가 맞을 때 보상을 받는다. 그래서 모델의 확률 점수는 단순한 추측이 아니라 실제 의사결정 기준으로 쓸 수 있게 된다.
7. 10:36
   확률 점수를 소프트웨어 로직에 적용 보정된 확률은 임계값으로 바로 업무 흐름에 연결할 수 있다. 높은 확률이면 자동 처리하고, 중간 구간은 사람 검토로 보내며, 낮은 확률은 무시하는 식으로 오류 비용에 따라 기준선을 조정할 수 있다.
8. 12:24
   AI 가드레일로의 활용 Jev는 환불 분류뿐 아니라 jailbreak 탐지 같은 가드레일 역할에도 쓸 수 있다. 다만 현재는 텍스트 입력만 가능하고, 수학이나 카운팅에는 약하며, 입력 데이터에 숨은 지시문에도 취약할 수 있다.
9. 12:56
   Jev와 LLM 워크플로 결합 Jev와 LLM은 경쟁 관계가 아니라 역할 분담이 가능하다. Jev가 빠른 분류를 맡고, LLM이 긴 응답 생성을 맡은 뒤, 다시 Jev가 결과를 분류하는 식으로 시스템 1과 시스템 2를 조합할 수 있다.
10. 14:03
    시스템 1 AI의 발전 전망과 제번스의 역설 Jev라는 이름은 효율이 좋아질수록 사용량이 오히려 늘 수 있다는 Jevons paradox에서 왔다. 판단이 매우 빠르고 싸지면, LLM이 비싸서 못 쓰던 데이터베이스의 각 행이나 로그 한 줄마다 배치하는 식으로 활용 범위가 넓어질 수 있다.

실무 인사이트

• 확률형 출력은 자동화의 핵심 재료이므로, 모델 선택보다 먼저 임계값과 사람 개입 지점을 설계하면 운영 안정성이 크게 높아진다.
• LLM으로 모든 걸 해결하기보다, 분류·판정은 Jev 같은 시스템 1 모델로, 생성·설명은 LLM으로 나누면 비용과 지연 시간을 줄일 수 있다.
• 보정된 확률은 정확도 지표가 아니라 의사결정 도구이므로, 실제 업무에서는 오탐 비용이 큰 구간일수록 더 보수적으로 임계값을 잡아야 한다.