You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
-**greedy(그리디 디코딩)** : 매 스텝 확률이 가장 높은 토큰 하나만(argmax) 고르는 디코딩. `temperature=0` 이 곧 greedy 이며, 무작위성이 없어 같은 입력 → 같은 출력(결정론적)이다. 반대는 확률에 따라 후보를 흩어 뽑는 **샘플링** (`top_k` ·`top_p` ·`temperature` ).
129
127
:::
130
128
131
-
### 3.2. 무엇을 정답지 없이 잴 수 있나 — 순응 vs 품질
129
+
### 3.2. 무엇을 정답지 없이 잴 수 있나. 순응 vs 품질
132
130
133
-
본 실험에서는 **정답지 없이 판정 가능한 것만** 다룬다. 출력 품질은 두 층위로 갈리는데, 그 경계가 곧 1단계와 다음 단계의 분담선이다.
|**품질 (quality)**| 완전성(빠뜨린 것 없나) · 정확성(환각 없나) |**필요**|
139
137
140
-
순응은 프롬프트가 명시한 규칙이라 출력만 보고 판정할 수 있다. 반면 품질은 "정답"이 있어야 평가 가능함. **순응은 필요조건이지 충분조건이 아니라** 경계가 깔끔히 나뉜다. 규칙을 지켰다고 내용이 옳은 건 아니지만, 규칙을 먼저 잡고 후에 품질을 개선한다.
138
+
순응은 프롬프트가 명시한 규칙이라 출력만 보고 판정할 수 있다. 반면 품질은 "정답"이 있어야 평가 가능함. **순응은 필요조건** 이지 **충분조건이 아니라** 경계가 깔끔히 나뉜다. 규칙을 지켰다고 내용이 옳은 건 아니지만, 규칙을 먼저 잡고 후에 품질을 개선한다.
141
139
142
140
### 3.3. 측정 지표
143
141
144
-
1편에서 식별된 네 가지 품질저하 패턴(**조기 종료·붕괴·반복·추론 시간 편차** )을 **정답지 없이 출력만으로** 탐지·정량화하기 위해, 각 설정의 70개 출력에서 아래 지표를 집계한다. 각 지표는 위 이상현상 중 하나 이상을 겨냥하며, 모두 단일 패스(n=70)로 안정적으로 잡히는 순응·형태 지표이며, `fields` ·`score` (repeat·degen)는 0\~1 소수 비율(1.0=100%)로 떨어진다.
142
+
네 가지 품질저하 패턴을 **정답지 없이 출력**만으로 탐지·정량화하기 위해아래 지표를 집계한다. 각 지표는 위 이상현상 중 하나 이상을 겨냥한다. `fields` ·`score` (repeat·degen)는 0\~1 비율(1.0=100%)로 환산해 비율로 확인한다.
145
143
146
144
|**지표**|**정의**|**무엇을 보나**|
147
145
| --- | --- | --- |
148
146
|`ok` / `fail`| 스키마 통과 / 실패 레코드 수 (/70) | 형식 순응 · 조기 종료 |
|`fields`| 필드별 '값이 있는' 비율 (`summary` ·`objects` ·`ocr` ·`actions` ·`bgm` ·`sfx` , ok 기준) | 정보 커버리지 |
151
-
|`score.repeat`| 배열 안에 같은 항목이 그대로(exact) 중복된 레코드 비율 — 유사·부분포함(near-dup)은 미측정이라 실제 반복의 **하한**| 반복 |
152
-
|`score.degen`| 붕괴 신호별 비율 — `foreign` (종문자) · `finish_length` (max_tokens 도달=미완·탈주) · `replacement` (깨진 멀티바이트) | 붕괴 |
153
-
154
-
`score.repeat` ·`score.degen` 은 레코드별 `flags` (signals)를 집계한 값이라 **지표 계산과 디버깅(어느 클립이 깨졌는지)이 같은 소스** 다. 그리고 측정한 이상현상은 **처방이 갈린다** — 배열 내 exact-중복(`repeat` )은 후처리(dedup)로 **무손실 제거** 되지만, 이종문자·미완 같은 **붕괴(**`degen`**)는 후처리로 복원 불가 → 생성 단계(파라미터)에서 막아야** 한다. 이 구분이 뒤의 파라미터 효과·결론 절에서 "무엇을 파라미터로 풀고 무엇을 후처리로 푸나"를 가른다. 단 붕괴는 드물게 터지는 희귀사건이라 n=70 단일 패스의 빈도는 참고로 본다.
본 절의 판정 기준은 "표현이 풍부한 설정"이 아니라 **"명백한 결함(미완·이종문자·반복·탈주)이 최소인 설정"** 이다. 커버리지·항목 수 증가는 환각(과생성)일 수 있어 가산점으로 치지 않는다 — 표현이 다소 부족해도 정확한 쪽을 택하며, 그 판정(환각 여부)은 정답지가 있는 다음 단계의 몫이다.
170
+
본 절의 판정 기준은 "표현이 풍부한 설정"이 아니라 **"명백한 결함(미완·이종문자·반복·탈주)이 최소인 설정"** 이다. 커버리지·항목 수 증가는 환각(과생성)일 수 있어 가산점으로 치지 않는다.
0 commit comments