11/27 까지 위성과 L3(포함 위상) 중 무엇을 먼저 하나
자세한 수치 · 그림 · 프롬프트 전문은 실험 사이트 부록(https://vs-sat-l3.miridih.app)에 있다. 실험에서 우리가 임의로 정한 정책 · 구현은 동반 문서 「실험에서 임의로 정한 것」에 모았다.
결론
- 위성을 먼저 하자고 제안한다. 효과를 잴 수 있었던 쪽은 위성뿐이다.
- 현실 L3 를 켜도 결과 그림은 한 장도 바뀌지 않았다. ③ 대 ①, ④ 대 ② 모두 그림이 다른 장이 0이다.
- L3 가 서비스까지 닿으려면 관문 셋(원문 · 생성 · 공급)을 모두 지나야 한다. 이번 실험에서는 셋 모두에서 대부분 막혔다.
- 원문: L3 형 생성 비율이 0.25–0.5% 다.
- 생성: L3 에 유리하게 쓴 원문에서도 원본 조합과 꼴까지 맞은 것은 2–10% 다.
- 공급: 그렇게 만든 L3 도 검색 앞 10 에 남은 것이 0/11 이다.
- 위성은 judge BAD 로는 차이가 없다. ②−① −0.8%p(구간 −4.0 – +2.5)다.
- 짝 선호로는 위성을 고른다. ② 대 ① 순승 +20.5%p(구간 +9.0 – +31.6)다. 순위 역전(R6)도 줄었다(−5.8%p).
- 위성은 감점과 함께 들어가야 한다. 감점을 끄면 「채워지지 않은 자리」(E3)가 +9.8%p 늘어난다.
- 위성에도 고유 결함이 있다. 같은 글이 두 번 나오는 결함(제목 = 본문)이 생겼다. 측정기는 아직 컴포넌트 제목을 정답으로 모른다.
- 작업량은 「L3 조합 없음」이 가장 작고, 「L3 조합 포함」이 가장 크다. 위성은 그 사이(중–대)다. 다만 L3 조합 없음은 효과의 상한을 포함 공급(2.7 판 frame 의 0.25%)이 정한다.
- 11/27 범위로 「위성 주 + L3 는 조합 없는 매칭까지, 또는 보류」를 제안한다. 조건은 권고 절에 적었다.
질문과 전제
- 질문: 12월 배포를 목표로 11/27 까지 할 일로 「L3(포함 위상)」와 「위성」 중 무엇을 먼저 하나.
- 두 축: 1. 작업량(난이도), 2. 효과.
- 실험의 전제. 정해지지 않은 정책은 실험 쪽에서 정했다. 없는 코드는 실험용으로 구현했다. 그래서 결과는 「실제 구현과 다르지만 방향은 같게 한 대리 조건」에서 나온 것이다. 정한 것과 그것이 결과를 어느 쪽으로 기울이는지는 동반 문서와 이 문서 끝의 「한계」 표에 있다.
- 입력과 풀.
- 입력은 운영 생성 로그의 최근 원문 400 이다(L1 · L2 YAML 은 운영이 만든 것 그대로).
- 풀은 2.7 판 전체(frame 284,300)다. 2.4–2.6 판에만 있던 포함 DO 1,008 개를 덧붙여, 포함 공급을 1,694 행으로 키웠다(L3 에 유리한 쪽).
- 검색 서버는 운영 계보 판(iui PR #1612 머지 시점)이다.
- 비용. 실험 전체 실비는 약 $131.7 이다(판정 $126.27 포함).
개념 — 레벨과 위성
복잡도 레벨 (규약 mordor-wiki projects/mordor/visual-summary/spec/schema-v0.5.md 8.7–8.9)
| 레벨 | 위상 | 스키마 표지 |
|---|---|---|
| L1 | 단일 | 최상위 components[] 가 1개 |
| L2 | 병치 | 최상위 components[] 여럿. entity.components[] 는 안 쓴다 |
| L3 | 병치 + 포함 | entity.components[] 를 쓴다(부모 entity 아래 자식 컴포넌트를 매단다) |
- 규약 8.8 은 레벨을 「산출물 모양」이 아니라 「생성기에 허용한 범위」로 정의한다. 그래서 누적이다(L1 ⊂ L2 ⊂ L3).
- 규약 8.9 는 「병치」를 두 층으로 나눈다.
- 질의 쪽 병치(L2): 컴포넌트 경계가 이미 갈린 것이다.
- 색인 쪽 Juxtaposition(8.7): 컴포넌트 하나 안의 영역 배치다.
- 운영 생성기는 L1 · L2 만 낸다. iui main
comp-pass-logic/src/generate/level.rs의Level::SUPPORTED가 L1 · L2 이고, L3 요청은normalize_wire가 400 으로 거절한다.- 운영 생성 로그(10/21–11/03, 23,861건)에 L3 문서는 0건이다.
- L2 요청 가운데 실제로 병치(형제 2개 이상)를 낸 것은 17.0% 다.
- 색인에는 포함이 적다. 운영 경계 추출(boundary-v12.4)은 포함을
Containment관계로 이미 낸다.- 포함 관계가 있는 DO 는 2,172 개(0.36%)이고, 병치는 54,722 개(9.0%)다(경계가 있는 DO 609,027 기준).
- 색인 frame 에는 부모 frame 의
nested로 들어간다. 2.7 판은 696 행 / 281,706 행이다. - 그 가운데 86% 가 「부모 entity 하나에 자식 하나」 꼴이다(전 판 합계 1,707 행 중 1,471 행).
위성
- 위성은 경계(core) 밖에 딸린 제목 · 설명 글 · 장식이다. 글이면 desc, 그 밖(그림 · 도형 · 배경)이면 deco 다.
- 운영 경계 프롬프트 boundary-v12.4(운영 DB 등록부)는 「boundary 는 core 노드만 덮는다. 컴포넌트 전체 제목 · 부제 · marker · 배경 · 장식 같은 satellite 는 어느 boundary 에도 속하지 않는 것이 정상」이라고 적는다. 그러나 출력에 위성 칸이 없다. 그래서 경계 밖 노드는 기록되지 않는다.
- 위성 귀속에는 세 규칙(tree · box · near)이 있다. 페이지 IIS PoC 의 정의를 따른다(3편).
- 이번 실험은 tree 위성만 썼다. tree 위성은 「DO 의 RLSC 잎 − 모든 경계 서브트리」이고, LLM 없이 코드로 계산된다(전량 26초).
- 2.7 풀 경계 행의 14.9%(42,502 / 284,300)에 desc 위성이 생겼다.
- 지금 색인 frame 의
satellites{title, subtitle, desc}칸은 이름은 같지만 다른 것이다. iui maincomp-frame-index의collectHeaderSatellites가 경계 안 헤더 글로 채운다.
1. 작업량
크기(소 · 중 · 대)는 실험 구현과 코드 확인에 근거한 판단이며, 정해진 공수 기준은 없다(제안). 코드 이름은 레포 main 의 파일 · 함수 이름이다. 「실험 코드」라고 적은 것은 원격에 반영되지 않은 실험 코드다.
1-1. L3 조합 없음 — 포함 DO 를 그대로 찾아 대치만
| 영역 | 이미 있는 것 | 새로 할 것 | 크기 | 근거 |
|---|---|---|---|---|
| 생성기 | TS 생성기는 L3 를 낸다. iui main src/comp-frame/generate/prompt.ts topologyBlocksFor 가 포함 · 판별 블록을 싣는다. Rust validate.rs level_violation 은 L3 를 이미 통과시킨다 |
L3 프롬프트를 Rust 서버에 옮긴다(스냅샷 추가 · level.rs 의 400 거절 해제 · 골든 갱신). 효과를 내려면 프롬프트 판별 문장과 18종 어휘(BigNumber 없음)도 손봐야 한다(2절 관문 2) |
소. 프롬프트까지 고치면 중 | 실험은 TS 길로 400 원문을 L3 로 생성했다(서버 수정 없음) |
| 추출기 | boundary-v12.4 가 Containment 를 이미 낸다. 색인 빌더가 부모 frame nested 로 공급한다 |
없음 | 없음 | 운영 2.7 판 nested 696 행 |
| 검색 | iui main comp-frame-core containment.rs pair_nested · align.rs align_nested · nested_search.rs 의 N1–N5 사다리 |
「N1 · N2 로 맞았을 때만 L3 결과를 내고 N3–N5 는 버린다」 노출 규칙. L3 문서를 L1 · L2 와 함께 실어 거른 뒤 앞 10 을 자른다 | 소–중 | 실험 코드 after-search.ts --l3-n12. 서버 수정은 없었다 |
| 대치 | N1 결과 binding 에 부모 칸(깊이 0)과 자식 칸(깊이 1)이 함께 온다. TS 대치가 둘 다 채운다 |
없음(확인됨) | 없음 | 실험에서 N1 결과 5건의 자식 칸이 모두 채워졌다 |
| 스타일 · 조합 | 포함 DO 는 디자이너가 만든 DO 하나다 | 없음 | 없음 | 렌더는 단일 DO 장과 같은 길이다 |
| 합 | 소–중 | 효과의 상한은 포함 공급(2.7 판 0.25%)과 공급 꼴(86% 가 자식 하나)이 정한다 |
1-2. L3 조합 포함 — 부모 DO 와 자식 DO 를 따로 찾아 한 장에 짜 넣기
| 영역 | 이미 있는 것 | 새로 할 것 | 크기 | 근거 |
|---|---|---|---|---|
| 생성기 | 1-1 과 같음 | 1-1 과 같음 | 소–중 | |
| 추출기 | 1-1 과 같음 | 부모 DO 의 entity 상자(자식이 들어갈 자리)를 알아야 한다. 지금 색인에는 이 칸이 없다 | 중 | 실험은 렌더 장 bbox 로 계산했다(실험 코드 compose-l3.ts) |
| 검색 | L1 검색 | 부모 질의(자식을 뗀 것)와 자식 질의(entity 마다)를 따로 검색하고, 짝을 고른다 | 중 | |
| 대치 | L1 대치 | 부모 entity 의 남는 글 지우기 · 자식 label 중복 처리 | 중 | 실험 합성 장에 entity label 이 두 번 나왔다 |
| 스타일 · 조합 | 없음 | entity 마다 자식을 배치한다. 크기 하한 · 종횡비 · 위계 · 부모 레이아웃 재배치 · 배경 처리가 필요하다 | 대 | 실험 합성기의 축척이 0.06–0.22 였다. 자식이 썸네일 크기라 읽히지 않았다. 로드맵의 05 조합 단계(착수 전, 09 Page Layout DB 선행)와 겹친다 |
| 합 | 대 |
1-3. 위성
| 영역 | 이미 있는 것 | 새로 할 것 | 크기 | 근거 |
|---|---|---|---|---|
| 생성기 | 문서 title 하나 |
컴포넌트 단위 title · subtitle 칸(스키마 · Rust visual_summary/types.rs Component) · 생성 프롬프트에 규칙 |
소–중 | 실험은 운영 YAML 에 덧붙이는 별도 호출로 만들었다($0.39) |
| 추출기 | boundary-v12.4 는 위성을 정의만 하고 출력 칸이 없다. 페이지 IIS PoC 에 tree · box · near 귀속 코드가 있다(원격 미반영) | 위성 저장 칸 · 귀속 정확도 검증 · 골든셋 · 검수. near 는 아직 검증되지 않았다. 다만 tree 위성은 코드만으로 계산된다 | 대(tree 만이면 소–중) | 실험 코드 compute_tree_satellites.py 가 2.7 전량을 26초에 계산했다. PoC 의 near 오귀속 사례는 3편 |
| 색인 빌더 | collectHeaderSatellites(경계 안 헤더) |
IIS 위성을 frame satellites 로 올리기(조건 C 적재기 mergePageSatellites, 원격 미반영 실험 코드) |
소 | 조건 C 결과는 파일럿 결과 |
| 검색 | 질의 위성은 문서 제목뿐(query_frame.rs build_satellites). 정렬 규칙 f 가 title 만 짝 짓는다 |
질의에 컴포넌트 제목 · 부제 싣기 · 부제 짝 · 위성 감점 · 가점(rank.rs align_and_cost 뒤) |
중 | 실험 코드 9 파일 255 줄 · 시험 3건 |
| 대치 | nodeTextPolicy.ts buildNodeTextMap 이 못 채운 자리에 임시 문구를 넣는다 |
위성 칸 채움 · 못 채운 위성 글 비우기 · 같은 글 두 번 막기 · 나눠 담기(threading)에서 제목 반복 처리 | 중–대 | 실험 코드 4 파일 49 줄은 비우기까지만이다. 같은 글 두 번 결함은 막지 못했다 |
| 스타일 · 조합 | 위성 글은 DO 안 노드라 그대로 렌더된다 | deco(배경 · 장식)를 다루면 추가 | 소(deco 를 다루면 중) | 실험은 deco 를 건드리지 않았다 |
| 측정 | BQ 카드는 문서 제목을 정답으로 쓴다 | 컴포넌트 제목을 정답에 넣는다. 같은 글 두 번을 재는 카드를 만든다 | 소 | E1 · D2 결함의 대부분이 이 불일치였다 |
| 합 | 중–대 |
1-4. 작업량 요약
| 안 | 크기 | 무엇이 크기를 정하나 |
|---|---|---|
| L3 조합 없음 | 소–중 | 서버 이식과 노출 규칙. 효과를 내려면 프롬프트 · 공급 꼴 문제가 따로 남는다 |
| L3 조합 포함 | 대 | 자식 배치(크기 · 종횡비 · 위계). 로드맵 조합 단계와 겹친다 |
| 위성 | 중–대 | 추출기(귀속 정확도 · 검수)와 대치(비우기 · 중복 글). tree 위성만 쓰면 추출기는 소–중 |
2. 효과
2-1. 측정 설계
| 기호 | 위성 | L3 | 무엇을 보나 |
|---|---|---|---|
| ① | 없음 | 없음 | 기준(운영과 같은 구성) |
| ② | 있음(감점 · 가점 켬) | 없음 | 위성 효과 |
| ②′ | 있음(감점 · 가점 끔) | 없음 | 감점 · 가점의 몫 |
| ③ | 없음 | 현실 L3 | L3 효과. N1 · N2 로 맞을 때만 노출 |
| ④ | 있음 | 현실 L3 | 결합 |
| ⑤ | 있음 | 이상 L3(합성 대리) | L3 조합의 잠재 효과 |
| ①-49 · ③-49 | 없음 | 없음 · 현실 L3 | 어휘를 45종으로 넓혀 L1 · L2 · L3 를 다시 생성. 이름의 「49」는 기록 이름이고 실제 어휘는 45종이다 |
- ①–④ 는 위성 유무 × L3 유무의 2×2 다. ⑤ 는 조합 대리다.
- 측정기는 넷이다.
- judge: 다섯 축 · rep 1 · 정본 총평 규칙.
- 기본 품질 카드 13장: 규칙 7 · LLM 6.
- 짝 선호: 두 장을 나란히 보여 고르게 하는 새 측정기. 순서를 바꿔 두 번 묻는다.
- 사람 검수 대체: 에이전트가 그림 40장을 직접 확인했다.
- 표본: 장 자리 1,000(원문 357)을 한 번 뽑아 모든 비교에 같은 자리를 썼다. 구간은 원문 군집 부트스트랩 95% 구간이다. 그림이 같은 자리는 판정을 복제했다.
2-2. judge — 조건이 구별되지 않는다
| 비교 | 쌍 | 앞 BAD | 뒤 BAD | 차이 | 구간 |
|---|---|---|---|---|---|
| ②−① | 923 | 23.7% | 23.0% | −0.8%p | −4.0 – +2.5 |
| ②′−① | 920 | 23.7% | 23.8% | +0.1%p | −3.1 – +3.2 |
| ②−②′ | 901 | 23.8% | 23.2% | −0.6%p | −3.3 – +2.3 |
| ③−① | 1,000 | 23.2% | 23.2% | 0 | 그림 다른 장 0 |
| ④−② | 923 | 23.0% | 23.0% | 0 | 그림 다른 장 0 |
| ①-49−① | 774 | 23.4% | 23.5% | +0.1%p | −3.8 – +4.0 |
judge BAD 차이와 95% 구간
뒤 조건 BAD − 앞 조건 BAD. 원문 군집 부트스트랩. 0 을 걸치면 차이를 말할 수 없다.
- 원값(점) · 95% 구간(선)
- 검수 대체 보정
- 그림이 같아 차이 0
자료: data/summary/p4-judge-an.json · p4-j2-correct.json
- 구간이 모두 0 을 넓게 걸친다.
- 축별로 0 을 넘는 것은 ①-49 의 시각적 계층 구조 하나다(+2.6%p, +0.7 – +4.6).
- 감점을 끈 ②′ 는 BAD 는 같지만 PERFECT 가 줄었다. (나음 − 나쁨)이 −5.2%p(−9.8 – −0.4)다.
- judge 는 절대 지표가 아니다. 같은 그림을 다시 판정했을 때 BAD 일치는 65% 였다. 「차이 없음」에는 이 흔들림이 섞여 있다.
2-3. 짝 선호 — 위성을 고른다
| 비교(X 대 Y) | 쌍 | X 나음 | 같음 | 갈림 | Y 나음 | 순승(X − Y) | 구간 |
|---|---|---|---|---|---|---|---|
| ② 대 ① | 200 | 92 | 17 | 40 | 51 | +20.5%p | +9.0 – +31.6 |
| ①-49 대 ① | 200 | 88 | 36 | 16 | 60 | +14.0%p | +1.6 – +25.8 |
| ⑤ 대 ② | 6 | 0 | 0 | 0 | 6 | −100%p | — |
짝 선호 순승(X − Y)과 95% 구간
순서를 바꿔 두 번 물어 두 답이 같은 쪽일 때만 승패로 센다. 순승 = (X 나음 − Y 나음) / 쌍.
⑤ 대 ② 는 6쌍 모두 ② 나음(−100%p, 표본이 작아 구간 없음)이라 이 축에 넣지 않았다. 자료: data/summary/p4-pairpref-an.json
짝 선호 판정의 구성
비교(X 대 Y)마다 쌍을 네 갈래로 나눈 비율이다.
- X 나음
- 같음
- 갈림(두 답이 다름)
- Y 나음
- 표본은 그림이 다른 자리에서 뽑은 200쌍이다. 두 답이 같은 쪽을 가리킬 때만 승패로 센다.
- judge 가 같은 등급을 준 103쌍에서도 짝 선호는 ② 41 · ① 19 · 같음 11 · 갈림 21 로 ② 를 고른다.
- 판정 사유를 보면 ② 쪽은 「표 형식으로 깔끔」 「단어가 부자연스럽게 잘리지 않음」이고, ① 쪽은 「막대 라벨 누락」 「불필요한 빈 상자」다.
- judge 등급 차가 보지 못하는 차이(제목 칸 · 글 배치)를 짝 비교가 잡는 것으로 보인다(해석).
- 짝 선호도 독립 측정기가 아니다. judge 와 같은 모델 계열이다. 위치 편향도 있다(400답 중 「A」 201 · 「B」 148). 순서를 바꾸면 갈리는 쌍이 20% 다.
2-4. 기본 품질 카드 — 뚜렷한 것만
| 카드 | 이름 | ① | ② | ②′ | ②−① | ②−②′ |
|---|---|---|---|---|---|---|
| R6 | 순위 역전(짝) | 15.6 | 9.8 | 9.0 | −5.8 (−9.7 – −1.9) | +0.9 (−1.3 – +3.2) |
| R8 | 경계 밖 글 · 차트 · 표 후보가 상위 | 1.0 | 0.3 | 0.2 | −0.7 (−1.3 – −0.2) | +0.1 |
| D4 | 제목 자리가 있는데 문서 제목이 빠짐 | 0.8 | 0.1 | 0.2 | −0.7 (−1.3 – −0.2) | −0.1 |
| E3 | 채워지지 않은 자리가 보임 | 6.4 | 5.9 | 15.7 | −0.5 (−2.4 – +1.4) | −9.8 (−12.4 – −7.4) |
| E5 | 정보 구조와 순서가 흐려짐 | 11.4 | 13.7 | 12.2 | +2.3 (+0.4 – +4.4) | +1.5 (−0.6 – +3.8) |
| E1 | 뜻이 보존되지 않음 | 0.5 | 15.8 | 14.7 | +15.3 ※ | +1.1 |
| D2 | 질의 글이 결과에 없음 | 0.0 | 3.8 | 3.7 | +3.8 ※ | +0.1 |
(단위 %, 차이 %p · 구간. 13장 전체 표는 사이트 부록 「판정 결과」.)
- R6 · R8 · D4 는 위성 쪽에서 나아진다.
- E3 은 감점이 지킨다. 감점을 끈 ②′ 는 15.7% 다. 감점이 「비운 위성 칸이 보이는 장」을 막는다.
- E5 는 ② 에서 나빠진다(+2.3%p).
- ※ E1 · D2 는 측정기 불일치다. ② 는 컴포넌트 제목을 싣는데, BQ 측정기는 문서 제목을 정답으로 쓴다.
- E1 결함 근거 144 중 126 이 「제목이 page_yaml 과 다르다」이고, D2 결함은 모두 제목 칸이다.
- 제목 사유를 빼면(제안 보정) D2 는 차이가 0 이 된다. E1 은 0.5% → 5.0%(+4.5%p, +2.9 – +6.2)가 남는다.
- 측정기에 컴포넌트 제목을 알리기 전에는 E1 결론을 내지 않는다.
2-5. 사람 검수 대체 — 위성 결함 사례
judge 는 BAD 인데 관문 카드가 결함을 못 잡은 장을 에이전트가 그림으로 봤다.
| 본 장 | 결함 있음 | judge 오판 | |
|---|---|---|---|
| ① | 10 | 7 | 3 |
| ② | 30 | 23 | 7 |
- ② 에서 많이 본 결함은 둘이다.
- 같은 글 두 번(제목 칸과 본문 · 말풍선 · 꼬리 글이 같은 글, 5장). 컴포넌트 제목 칸에서 생기는 위성 고유 결함으로 보인다(해석). 지금 관문 카드에는 이것을 재는 카드가 없다.
- 표 템플릿 13903035 의 행 정렬 불일치(5장).
- 그 밖에 차트 범주 · 수치 글 없음(4), 템플릿 문구 남음(1), 비운 글 자리 빈 상자(1) 등이 있다.
- 오판 비율로 BAD 를 보정하면 ① 20.1% · ② 21.6%, ②−① +1.5%p(구간 −1.5 – +4.6)다. 원값(−0.8%p)과 방향이 바뀌지만 둘 다 0 을 걸친다.
- 사람 판정으로 확정하려면 이 40장을 사람이 다시 본다.
2-6. 이상 L3(⑤ 합성 대리) — 6쌍 모두 졌다
- 방법: 부모 DO 1위 장의 entity 상자 안에, 자식 DO 1위 장을 종횡비를 지켜 줄여 넣었다(변형 A · B).
- 결과: ⑤ 대 ② 6쌍(원문 3 × 변형 2)에서 ② 가 모두 이겼다. 순서를 바꿔도 같았다.
- 사유: 자식이 썸네일 크기라 읽히지 않음(축척 0.06–0.22) · 내용 누락 · 깨진 상자.
- 이것은 대리의 한계다. L3 포함 꼴의 잠재 효과를 이 대리로는 잴 수 없다. 실제 조합 설계에 무엇이 필요한지는 동반 문서의 「L3 조합(⑤ 합성기)」 절에 있다.
2-7. 어휘 확장(18 → 45종) 효과
- ①-49 대 ① 은 L1 · L2 를 45종 어휘로 다시 생성한 효과다(L3 와 무관).
- judge BAD 는 같다(+0.1%p).
- 짝 선호는 ①-49 를 고른다(+14.0%p, +1.6 – +25.8).
- 시각적 계층 구조 축만 나빠진다(+2.6%p).
- ①-49 는 「시각화 종류」 추천(1군) 문서 없이 돌았다. 그래서 이 값은 어휘 확장과 군 구분 없음이 합쳐진 효과다.
- 이 결과는 위성 대 L3 질문 밖이지만, 18종 제약이 L3 생성도 막는다는 점(2-8 관문 2)과 이어진다.
2-8. L3 가 서비스까지 닿지 못하는 세 관문
원문 ──▶ 생성 ──▶ 공급(검색) ──▶ 서비스 노출
0.25–0.5% L2 와 같음 61–64% 앞 10 에 L3 0/11
| 관문 | 운영 원문 400(recent400) | L3 에 유리한 가상 원문 50 | 해석 |
|---|---|---|---|
| 1. 원문 — 포함 구조가 원문에 있나 | L3 형 V3 1/400(0.25%) · V1 2/399(0.5%) | V3 5/50(10%) · V1 8/50(16%) | 원문 쪽 몫이 크다. 포함 구조를 원문에 분명히 박으면 30–40배가 된다. 운영 생성 로그에 L3 는 0건, 병치(형제 2개 이상)는 L2 의 17.0% 다 |
| 2. 생성 — 프롬프트가 원본 꼴을 내나 | 세 문서 모두 「항목마다 자식」 꼴. 공급 다수 꼴과 맞는 것 0 | 원본 조합 + 꼴 일치 V3 1/50 · V1 5/50. 「하나」 꼴 원문에서 L3 형 1/28(두 판 모두). L3 형이 아닌 출력의 61–64%(27/44 · 27/42)가 같은 원문의 L2 와 최상위 type 집합이 같다 | 판별 문장 「항목마다 반복되는 수치나 강조」가 공급 다수 꼴(하나에 하나)을 이끌지 못한다. 18종에 BigNumber · ProfileCard · QuoteTestimonial 이 없다 |
| 3. 공급 — 검색이 N1 · N2 로 맞추나 | L3 항목 1(id 300) → N3 → 버림. 그림 다른 장 0 | L3 형 13 중 2건은 서버 시간 예산 초과. 나머지 11 중 N1 · N2 가 나온 것 1(원본이 아닌 DO). L1 · L2 와 함께 실어 거른 뒤 앞 10 에 남은 L3 0/11 | 「항목마다」 질의는 pair_nested 의 개수 관문에서 떨어진다(질의 자식 수가 후보보다 많으면 실패). 포함 공급은 2.7 판 frame 의 0.25% 다 |
L3 세 관문 퍼널
각 단계를 지난 문서 수. 막대는 첫 단계 대비 길이다. 0 인 단계는 막대가 없다.
운영 원문 400 (V3 + V1 생성 799)
L3 유리 가상 원문 50 (V3 + V1 생성 100)
자료: data/summary/m1-*.json · data/l3/r400-l3form.json · data/l3/fav50/*.json(search). 항목별 내용은 L3 세트에 있다.
L3 형 생성 비율(M1)
분모 = 생성 성공 문서. 「원본 조합 + 꼴 일치」는 L3 유리 원문 50 에서만 잰다(원본 DO 가 있는 표본).
- L3 형
- 원본 조합 + 꼴 일치
막대 길이는 비율에 비례한다(같은 축). 자료: data/summary/m1-r400.json · m1-fav50.json · data/l3/fav50/*.json(match)
- 가상 원문 50 은 포함 DO 50개(조합 50가지)에 맞춰 LLM 이 썼다. 실제 유저 원문보다 구조 표지가 뚜렷하다(L3 에 유리).
- 「바깥만」 갈래(안쪽 내용을 바깥 entity
items로 접음, V3 12 · V1 19)는 스키마상 L1 접기와 정보량이 같다. 이것은 생성 결함으로 보기 어렵다. 「L1 Versus 질의가 Versus ⊃ List DO 를 찾는가」 같은 검색 쪽 동치 문제는 따로 재야 한다(제안). - 판정: 프롬프트만 고쳐서는 ③ 의 효과가 나기 어렵다. 지금 공급 꼴 · 관문으로는 L3 형을 더 만들어도 ③ = ① 이 되기 쉽다(해석).
권고 — 11/27 범위 (제안)
위성을 주로 하고, L3 는 「조합 없는 매칭까지」 또는 보류한다. 근거 기준이 따로 정해진 것은 없으므로, 아래는 모두 제안이다.
위성 (주)
- 범위:
- tree 위성 계산(코드).
- 컴포넌트
title·subtitle생성. - 질의 위성 · 부제 짝.
- 위성 감점 · 가점.
- 못 채운 위성 글 비우기.
- 같은 글 두 번 막기.
- 측정기에 컴포넌트 제목 반영.
- 조건:
- 감점 · 가점을 꼭 함께 넣는다(감점이 없으면 E3 +9.8%p).
- box · near 귀속과 deco 는 이번 범위에서 빼고, tree 위성만 쓴다. near 는 검증이 안 됐고, 추출기 작업량이 대로 커진다.
- 같은 글 두 번 결함은 생성 프롬프트(제목이 entity 글을 되풀이하지 않게)와 대치 검사 양쪽에서 막는다. 재는 카드를 같이 만든다.
- 배포 전에 사람이 그림을 확인한다(사람 검수 대체 40장의 재확인 포함).
L3 — 조합 없는 매칭까지, 또는 보류
- 조합 없는 매칭까지 할 조건:
- Rust 서버 이식과 N1 · N2 노출 규칙만 넣는다. 결과가 바뀌는 장이 거의 없다는 점을 받아들인다.
- 프롬프트 판별 문장을 공급 다수 꼴(「entity 하나에 자식 하나」)도 포함으로 이끌게 고치고, L3 유리 원문 50 으로 다시 잰다.
pair_nested개수 관문을 그대로 둘지 정한다(검색 담당 결정).
- 보류할 조건: 위의 셋을 11/27 안에 할 여력이 없으면 보류한다. 지금 상태로 켜면 서비스 결과가 바뀌지 않으므로 보류해도 잃는 것이 없다(이번 측정 범위에서).
- L3 조합 포함은 11/27 범위에 넣지 않기를 권한다. 작업량이 대이고 로드맵 조합 단계와 겹친다. 대리 실험(⑤)은 6/6 졌다.
한계와 가정이 결과를 기울이는 방향
| 가정 · 한계 | 내용 | 기울기 |
|---|---|---|
| 위성 제목 생성(A-2) | 컴포넌트 제목 · 부제를 실험용 지시문으로 운영 YAML 에 덧붙였다 | ② 의 짝 선호 · D4 이득의 출처다. 같은 글 두 번 결함도 여기서 나온 것으로 보인다. 운영 생성 프롬프트로 바꾸면 양쪽 다 달라진다 |
| 위성 감점 · 가점(A-3) | 감점 10 · 가점 3 | ② 대 ②′ 로 민감도를 쟀다. 감점 없이는 위성이 불리하다 |
| 위성 비우기(A-4) | 못 채운 위성 desc 를 비운다 | E3 이 빈 자리로 셀 수 있다 → 위성에 불리. ② 는 감점이 상쇄한다 |
| 현실 L3(A-5 · A-6 · A-8) | N1 · N2 만 노출 · PoC 계보 프롬프트 · 18종 어휘 | ③ · ④ = ① · ② 의 원인이다. L3 를 불리하게(사실상 효과 0 으로) 기울인다 |
| 이상 L3(A-7 · A-11) | 축소 합성 대리 · 45종 어휘 | ⑤ 를 크게 불리하게 기울인다. 6/6 패배는 대리의 한계로 읽는다 |
| 풀(A-10) | 구판 포함 DO 1,008 을 덧붙였다(포함 공급 2.4배) | L3 에 유리하게 기울였는데도 ③ · ④ 효과가 0 이다 |
| 짝 선호(A-12) | 새 측정기. judge 와 같은 모델 계열 | 위치 편향이 있다. 갈림 20% |
| 그림 없는 장(A-13) | ② · ②′ 에서 굽기 실패 장을 BAD 로 셌다 | 위성에 불리(표본 5 · 3장, BAD 약 0.5%p). 원인은 DO 에 매인 합성기 실패다(위성 원인 아님) |
| BQ 측정기 | 제목 정답 = 문서 제목 | E1 · D2 를 위성에 불리하게 기울인다 |
| judge rep 1 | 같은 그림 재판정 BAD 일치 65% | 「같음」에 흔들림이 섞인다. 양쪽 모두에 같다 |
| 가상 원문(L3 유리 50) | LLM 이 구조를 알고 썼다 | 실제보다 L3 에 유리하다 |
| 짝 선호 표본 | 그림이 다른 자리만 | 표본 전체로 펴면 순승은 약 0.9배로 줄어든다(해석) |
부록
- 실험에서 임의로 정한 것(동반 문서): 가정 A-1–A-13 과 추가 결정, 프롬프트 · 정책 · 합성기.
- 실험 사이트(https://vs-sat-l3.miridih.app):
- 판정 결과 전체 표(judge 축별 · 카드 13장 · 짝 선호).
- L3 유리 원문 50 목록과 갈래.
- 그림 사례(위성 결함 · ⑤ 합성 장).
- 프롬프트 전문. 유저 원문의 개인 정보는 사이트에서 가림 처리했다.
- 배경 게시본:
- 위성 정의와 귀속 규칙: 페이지 IIS 3편
- 경계 밖 글을 frame 글로 올린 조건 C: 파일럿 결과
- 규약:
- mordor-wiki
projects/mordor/visual-summary/spec/schema-v0.5.md8.7–8.9(레벨 · 위상) spec/capability-table.md3.6(N1–N5)
- mordor-wiki