오늘도 공부

이 글의 핵심은 Jev를 “JSON 잘 뽑는 빠른 LLM”으로 보면 완전히 잘못 본 것이라는 주장입니다.저자가 1만 회가 넘는 API 호출과 여러 블랙박스 실험을 바탕으로 추정한 Jev의 구조는 대략 이렇습니다.LLM처럼 문장을 생성하는 모델이 아니라, LLM의 내부 표현을 이용해 “결정 확률”을 바로 읽어내는 모델일반 LLM과 비교하면 차이가 선명합니다.일반 LLMJev로 추정되는 방식프롬프트 입력state + 여러 questions 입력토큰을 하나씩 생성질문별 확률을 직접 계산"payments": "91%"라는 문자열 생성payments = 0.91이라는 분포를 readout여러 질문을 차례로 처리하기 쉬움여러 질문을 병렬 처리같은 긴 context를 반복 처리state를 한 번 계산하고 공유conf..

Jev란?Jev는 자연어와 비정형 데이터를 대상으로 빠른 의미 판단(Semantic Decision)을 수행하는 엔진으로 볼 수 있다.일반적인 LLM에게 모든 업무를 맡기는 대신,분류탐지점수화라우팅검색랭킹검증정보 추출처럼 작고 명확한 판단 작업을 Jev에 맡기는 방식이다.핵심 구조는 다음과 같다.Code ↓Jev Semantic Decision ↓Code ↓Jev Semantic Decision ↓Code즉,Control Flow는 코드가 담당하고Semantic Decision은 Jev가 담당한다.1. Classification — 분류입력된 내용을 미리 정의된 카테고리 중 하나로 분류한다.예시사용자 입력:카드를 잃어버렸어요.Jev 결과:{ "intent": "lost_card"}활용 사례고객 문의 분..