위성 대 L3 11/27 범위 실험

11/27 까지 위성과 L3(포함 위상) 중 무엇을 먼저 하나

2026-11-04 · 11/06 팀 공유용 · 동반 문서 실험에서 임의로 정한 것

자세한 수치 · 그림 · 프롬프트 전문은 실험 사이트 부록(https://vs-sat-l3.miridih.app)에 있다. 실험에서 우리가 임의로 정한 정책 · 구현은 동반 문서 「실험에서 임의로 정한 것」에 모았다.

결론

  1. 위성을 먼저 하자고 제안한다. 효과를 잴 수 있었던 쪽은 위성뿐이다.
  2. 현실 L3 를 켜도 결과 그림은 한 장도 바뀌지 않았다. ③ 대 ①, ④ 대 ② 모두 그림이 다른 장이 0이다.
  3. L3 가 서비스까지 닿으려면 관문 셋(원문 · 생성 · 공급)을 모두 지나야 한다. 이번 실험에서는 셋 모두에서 대부분 막혔다.
    • 원문: L3 형 생성 비율이 0.25–0.5% 다.
    • 생성: L3 에 유리하게 쓴 원문에서도 원본 조합과 꼴까지 맞은 것은 2–10% 다.
    • 공급: 그렇게 만든 L3 도 검색 앞 10 에 남은 것이 0/11 이다.
  4. 위성은 judge BAD 로는 차이가 없다. ②−① −0.8%p(구간 −4.0 – +2.5)다.
  5. 짝 선호로는 위성을 고른다. ② 대 ① 순승 +20.5%p(구간 +9.0 – +31.6)다. 순위 역전(R6)도 줄었다(−5.8%p).
  6. 위성은 감점과 함께 들어가야 한다. 감점을 끄면 「채워지지 않은 자리」(E3)가 +9.8%p 늘어난다.
  7. 위성에도 고유 결함이 있다. 같은 글이 두 번 나오는 결함(제목 = 본문)이 생겼다. 측정기는 아직 컴포넌트 제목을 정답으로 모른다.
  8. 작업량은 「L3 조합 없음」이 가장 작고, 「L3 조합 포함」이 가장 크다. 위성은 그 사이(중–대)다. 다만 L3 조합 없음은 효과의 상한을 포함 공급(2.7 판 frame 의 0.25%)이 정한다.
  9. 11/27 범위로 「위성 주 + L3 는 조합 없는 매칭까지, 또는 보류」를 제안한다. 조건은 권고 절에 적었다.

질문과 전제

  • 질문: 12월 배포를 목표로 11/27 까지 할 일로 「L3(포함 위상)」와 「위성」 중 무엇을 먼저 하나.
  • 두 축: 1. 작업량(난이도), 2. 효과.
  • 실험의 전제. 정해지지 않은 정책은 실험 쪽에서 정했다. 없는 코드는 실험용으로 구현했다. 그래서 결과는 「실제 구현과 다르지만 방향은 같게 한 대리 조건」에서 나온 것이다. 정한 것과 그것이 결과를 어느 쪽으로 기울이는지는 동반 문서와 이 문서 끝의 「한계」 표에 있다.
  • 입력과 풀.
    • 입력은 운영 생성 로그의 최근 원문 400 이다(L1 · L2 YAML 은 운영이 만든 것 그대로).
    • 풀은 2.7 판 전체(frame 284,300)다. 2.4–2.6 판에만 있던 포함 DO 1,008 개를 덧붙여, 포함 공급을 1,694 행으로 키웠다(L3 에 유리한 쪽).
    • 검색 서버는 운영 계보 판(iui PR #1612 머지 시점)이다.
  • 비용. 실험 전체 실비는 약 $131.7 이다(판정 $126.27 포함).

개념 — 레벨과 위성

복잡도 레벨 (규약 mordor-wiki projects/mordor/visual-summary/spec/schema-v0.5.md 8.7–8.9)

레벨 위상 스키마 표지
L1 단일 최상위 components[] 가 1개
L2 병치 최상위 components[] 여럿. entity.components[] 는 안 쓴다
L3 병치 + 포함 entity.components[] 를 쓴다(부모 entity 아래 자식 컴포넌트를 매단다)
  • 규약 8.8 은 레벨을 「산출물 모양」이 아니라 「생성기에 허용한 범위」로 정의한다. 그래서 누적이다(L1 ⊂ L2 ⊂ L3).
  • 규약 8.9 는 「병치」를 두 층으로 나눈다.
    • 질의 쪽 병치(L2): 컴포넌트 경계가 이미 갈린 것이다.
    • 색인 쪽 Juxtaposition(8.7): 컴포넌트 하나 안의 영역 배치다.
  • 운영 생성기는 L1 · L2 만 낸다. iui main comp-pass-logic/src/generate/level.rs 의 Level::SUPPORTED 가 L1 · L2 이고, L3 요청은 normalize_wire 가 400 으로 거절한다.
    • 운영 생성 로그(10/21–11/03, 23,861건)에 L3 문서는 0건이다.
    • L2 요청 가운데 실제로 병치(형제 2개 이상)를 낸 것은 17.0% 다.
  • 색인에는 포함이 적다. 운영 경계 추출(boundary-v12.4)은 포함을 Containment 관계로 이미 낸다.
    • 포함 관계가 있는 DO 는 2,172 개(0.36%)이고, 병치는 54,722 개(9.0%)다(경계가 있는 DO 609,027 기준).
    • 색인 frame 에는 부모 frame 의 nested 로 들어간다. 2.7 판은 696 행 / 281,706 행이다.
    • 그 가운데 86% 가 「부모 entity 하나에 자식 하나」 꼴이다(전 판 합계 1,707 행 중 1,471 행).

위성

  • 위성은 경계(core) 밖에 딸린 제목 · 설명 글 · 장식이다. 글이면 desc, 그 밖(그림 · 도형 · 배경)이면 deco 다.
  • 운영 경계 프롬프트 boundary-v12.4(운영 DB 등록부)는 「boundary 는 core 노드만 덮는다. 컴포넌트 전체 제목 · 부제 · marker · 배경 · 장식 같은 satellite 는 어느 boundary 에도 속하지 않는 것이 정상」이라고 적는다. 그러나 출력에 위성 칸이 없다. 그래서 경계 밖 노드는 기록되지 않는다.
  • 위성 귀속에는 세 규칙(tree · box · near)이 있다. 페이지 IIS PoC 의 정의를 따른다(3편).
    • 이번 실험은 tree 위성만 썼다. tree 위성은 「DO 의 RLSC 잎 − 모든 경계 서브트리」이고, LLM 없이 코드로 계산된다(전량 26초).
    • 2.7 풀 경계 행의 14.9%(42,502 / 284,300)에 desc 위성이 생겼다.
  • 지금 색인 frame 의 satellites{title, subtitle, desc} 칸은 이름은 같지만 다른 것이다. iui main comp-frame-index 의 collectHeaderSatellites 가 경계 안 헤더 글로 채운다.

1. 작업량

크기(소 · 중 · 대)는 실험 구현과 코드 확인에 근거한 판단이며, 정해진 공수 기준은 없다(제안). 코드 이름은 레포 main 의 파일 · 함수 이름이다. 「실험 코드」라고 적은 것은 원격에 반영되지 않은 실험 코드다.

1-1. L3 조합 없음 — 포함 DO 를 그대로 찾아 대치만

영역 이미 있는 것 새로 할 것 크기 근거
생성기 TS 생성기는 L3 를 낸다. iui main src/comp-frame/generate/prompt.ts topologyBlocksFor 가 포함 · 판별 블록을 싣는다. Rust validate.rs level_violation 은 L3 를 이미 통과시킨다 L3 프롬프트를 Rust 서버에 옮긴다(스냅샷 추가 · level.rs 의 400 거절 해제 · 골든 갱신). 효과를 내려면 프롬프트 판별 문장과 18종 어휘(BigNumber 없음)도 손봐야 한다(2절 관문 2) 소. 프롬프트까지 고치면 중 실험은 TS 길로 400 원문을 L3 로 생성했다(서버 수정 없음)
추출기 boundary-v12.4 가 Containment 를 이미 낸다. 색인 빌더가 부모 frame nested 로 공급한다 없음 없음 운영 2.7 판 nested 696 행
검색 iui main comp-frame-core containment.rs pair_nested · align.rs align_nested · nested_search.rs 의 N1–N5 사다리 「N1 · N2 로 맞았을 때만 L3 결과를 내고 N3–N5 는 버린다」 노출 규칙. L3 문서를 L1 · L2 와 함께 실어 거른 뒤 앞 10 을 자른다 소–중 실험 코드 after-search.ts --l3-n12. 서버 수정은 없었다
대치 N1 결과 binding 에 부모 칸(깊이 0)과 자식 칸(깊이 1)이 함께 온다. TS 대치가 둘 다 채운다 없음(확인됨) 없음 실험에서 N1 결과 5건의 자식 칸이 모두 채워졌다
스타일 · 조합 포함 DO 는 디자이너가 만든 DO 하나다 없음 없음 렌더는 단일 DO 장과 같은 길이다
합 소–중 효과의 상한은 포함 공급(2.7 판 0.25%)과 공급 꼴(86% 가 자식 하나)이 정한다

1-2. L3 조합 포함 — 부모 DO 와 자식 DO 를 따로 찾아 한 장에 짜 넣기

영역 이미 있는 것 새로 할 것 크기 근거
생성기 1-1 과 같음 1-1 과 같음 소–중
추출기 1-1 과 같음 부모 DO 의 entity 상자(자식이 들어갈 자리)를 알아야 한다. 지금 색인에는 이 칸이 없다 중 실험은 렌더 장 bbox 로 계산했다(실험 코드 compose-l3.ts)
검색 L1 검색 부모 질의(자식을 뗀 것)와 자식 질의(entity 마다)를 따로 검색하고, 짝을 고른다 중
대치 L1 대치 부모 entity 의 남는 글 지우기 · 자식 label 중복 처리 중 실험 합성 장에 entity label 이 두 번 나왔다
스타일 · 조합 없음 entity 마다 자식을 배치한다. 크기 하한 · 종횡비 · 위계 · 부모 레이아웃 재배치 · 배경 처리가 필요하다 대 실험 합성기의 축척이 0.06–0.22 였다. 자식이 썸네일 크기라 읽히지 않았다. 로드맵의 05 조합 단계(착수 전, 09 Page Layout DB 선행)와 겹친다
합 대

1-3. 위성

영역 이미 있는 것 새로 할 것 크기 근거
생성기 문서 title 하나 컴포넌트 단위 title · subtitle 칸(스키마 · Rust visual_summary/types.rs Component) · 생성 프롬프트에 규칙 소–중 실험은 운영 YAML 에 덧붙이는 별도 호출로 만들었다($0.39)
추출기 boundary-v12.4 는 위성을 정의만 하고 출력 칸이 없다. 페이지 IIS PoC 에 tree · box · near 귀속 코드가 있다(원격 미반영) 위성 저장 칸 · 귀속 정확도 검증 · 골든셋 · 검수. near 는 아직 검증되지 않았다. 다만 tree 위성은 코드만으로 계산된다 대(tree 만이면 소–중) 실험 코드 compute_tree_satellites.py 가 2.7 전량을 26초에 계산했다. PoC 의 near 오귀속 사례는 3편
색인 빌더 collectHeaderSatellites(경계 안 헤더) IIS 위성을 frame satellites 로 올리기(조건 C 적재기 mergePageSatellites, 원격 미반영 실험 코드) 소 조건 C 결과는 파일럿 결과
검색 질의 위성은 문서 제목뿐(query_frame.rs build_satellites). 정렬 규칙 f 가 title 만 짝 짓는다 질의에 컴포넌트 제목 · 부제 싣기 · 부제 짝 · 위성 감점 · 가점(rank.rs align_and_cost 뒤) 중 실험 코드 9 파일 255 줄 · 시험 3건
대치 nodeTextPolicy.ts buildNodeTextMap 이 못 채운 자리에 임시 문구를 넣는다 위성 칸 채움 · 못 채운 위성 글 비우기 · 같은 글 두 번 막기 · 나눠 담기(threading)에서 제목 반복 처리 중–대 실험 코드 4 파일 49 줄은 비우기까지만이다. 같은 글 두 번 결함은 막지 못했다
스타일 · 조합 위성 글은 DO 안 노드라 그대로 렌더된다 deco(배경 · 장식)를 다루면 추가 소(deco 를 다루면 중) 실험은 deco 를 건드리지 않았다
측정 BQ 카드는 문서 제목을 정답으로 쓴다 컴포넌트 제목을 정답에 넣는다. 같은 글 두 번을 재는 카드를 만든다 소 E1 · D2 결함의 대부분이 이 불일치였다
합 중–대

1-4. 작업량 요약

안 크기 무엇이 크기를 정하나
L3 조합 없음 소–중 서버 이식과 노출 규칙. 효과를 내려면 프롬프트 · 공급 꼴 문제가 따로 남는다
L3 조합 포함 대 자식 배치(크기 · 종횡비 · 위계). 로드맵 조합 단계와 겹친다
위성 중–대 추출기(귀속 정확도 · 검수)와 대치(비우기 · 중복 글). tree 위성만 쓰면 추출기는 소–중

2. 효과

2-1. 측정 설계

기호 위성 L3 무엇을 보나
① 없음 없음 기준(운영과 같은 구성)
② 있음(감점 · 가점 켬) 없음 위성 효과
②′ 있음(감점 · 가점 끔) 없음 감점 · 가점의 몫
③ 없음 현실 L3 L3 효과. N1 · N2 로 맞을 때만 노출
④ 있음 현실 L3 결합
⑤ 있음 이상 L3(합성 대리) L3 조합의 잠재 효과
①-49 · ③-49 없음 없음 · 현실 L3 어휘를 45종으로 넓혀 L1 · L2 · L3 를 다시 생성. 이름의 「49」는 기록 이름이고 실제 어휘는 45종이다
  • ①–④ 는 위성 유무 × L3 유무의 2×2 다. ⑤ 는 조합 대리다.
  • 측정기는 넷이다.
    • judge: 다섯 축 · rep 1 · 정본 총평 규칙.
    • 기본 품질 카드 13장: 규칙 7 · LLM 6.
    • 짝 선호: 두 장을 나란히 보여 고르게 하는 새 측정기. 순서를 바꿔 두 번 묻는다.
    • 사람 검수 대체: 에이전트가 그림 40장을 직접 확인했다.
  • 표본: 장 자리 1,000(원문 357)을 한 번 뽑아 모든 비교에 같은 자리를 썼다. 구간은 원문 군집 부트스트랩 95% 구간이다. 그림이 같은 자리는 판정을 복제했다.

2-2. judge — 조건이 구별되지 않는다

비교 쌍 앞 BAD 뒤 BAD 차이 구간
②−① 923 23.7% 23.0% −0.8%p −4.0 – +2.5
②′−① 920 23.7% 23.8% +0.1%p −3.1 – +3.2
②−②′ 901 23.8% 23.2% −0.6%p −3.3 – +2.3
③−① 1,000 23.2% 23.2% 0 그림 다른 장 0
④−② 923 23.0% 23.0% 0 그림 다른 장 0
①-49−① 774 23.4% 23.5% +0.1%p −3.8 – +4.0

judge BAD 차이와 95% 구간

뒤 조건 BAD − 앞 조건 BAD. 원문 군집 부트스트랩. 0 을 걸치면 차이를 말할 수 없다.

  • 원값(점) · 95% 구간(선)
  • 검수 대체 보정
  • 그림이 같아 차이 0

자료: data/summary/p4-judge-an.json · p4-j2-correct.json

  • 구간이 모두 0 을 넓게 걸친다.
  • 축별로 0 을 넘는 것은 ①-49 의 시각적 계층 구조 하나다(+2.6%p, +0.7 – +4.6).
  • 감점을 끈 ②′ 는 BAD 는 같지만 PERFECT 가 줄었다. (나음 − 나쁨)이 −5.2%p(−9.8 – −0.4)다.
  • judge 는 절대 지표가 아니다. 같은 그림을 다시 판정했을 때 BAD 일치는 65% 였다. 「차이 없음」에는 이 흔들림이 섞여 있다.

2-3. 짝 선호 — 위성을 고른다

비교(X 대 Y) 쌍 X 나음 같음 갈림 Y 나음 순승(X − Y) 구간
② 대 ① 200 92 17 40 51 +20.5%p +9.0 – +31.6
①-49 대 ① 200 88 36 16 60 +14.0%p +1.6 – +25.8
⑤ 대 ② 6 0 0 0 6 −100%p —

짝 선호 순승(X − Y)과 95% 구간

순서를 바꿔 두 번 물어 두 답이 같은 쪽일 때만 승패로 센다. 순승 = (X 나음 − Y 나음) / 쌍.

⑤ 대 ② 는 6쌍 모두 ② 나음(−100%p, 표본이 작아 구간 없음)이라 이 축에 넣지 않았다. 자료: data/summary/p4-pairpref-an.json

짝 선호 판정의 구성

비교(X 대 Y)마다 쌍을 네 갈래로 나눈 비율이다.

  • X 나음
  • 같음
  • 갈림(두 답이 다름)
  • Y 나음
② 대 ① 200쌍
①-49 대 ① 200쌍
⑤ 대 ② 6쌍
  • 표본은 그림이 다른 자리에서 뽑은 200쌍이다. 두 답이 같은 쪽을 가리킬 때만 승패로 센다.
  • judge 가 같은 등급을 준 103쌍에서도 짝 선호는 ② 41 · ① 19 · 같음 11 · 갈림 21 로 ② 를 고른다.
  • 판정 사유를 보면 ② 쪽은 「표 형식으로 깔끔」 「단어가 부자연스럽게 잘리지 않음」이고, ① 쪽은 「막대 라벨 누락」 「불필요한 빈 상자」다.
  • judge 등급 차가 보지 못하는 차이(제목 칸 · 글 배치)를 짝 비교가 잡는 것으로 보인다(해석).
  • 짝 선호도 독립 측정기가 아니다. judge 와 같은 모델 계열이다. 위치 편향도 있다(400답 중 「A」 201 · 「B」 148). 순서를 바꾸면 갈리는 쌍이 20% 다.

2-4. 기본 품질 카드 — 뚜렷한 것만

카드 이름 ① ② ②′ ②−① ②−②′
R6 순위 역전(짝) 15.6 9.8 9.0 −5.8 (−9.7 – −1.9) +0.9 (−1.3 – +3.2)
R8 경계 밖 글 · 차트 · 표 후보가 상위 1.0 0.3 0.2 −0.7 (−1.3 – −0.2) +0.1
D4 제목 자리가 있는데 문서 제목이 빠짐 0.8 0.1 0.2 −0.7 (−1.3 – −0.2) −0.1
E3 채워지지 않은 자리가 보임 6.4 5.9 15.7 −0.5 (−2.4 – +1.4) −9.8 (−12.4 – −7.4)
E5 정보 구조와 순서가 흐려짐 11.4 13.7 12.2 +2.3 (+0.4 – +4.4) +1.5 (−0.6 – +3.8)
E1 뜻이 보존되지 않음 0.5 15.8 14.7 +15.3 ※ +1.1
D2 질의 글이 결과에 없음 0.0 3.8 3.7 +3.8 ※ +0.1

(단위 %, 차이 %p · 구간. 13장 전체 표는 사이트 부록 「판정 결과」.)

  • R6 · R8 · D4 는 위성 쪽에서 나아진다.
  • E3 은 감점이 지킨다. 감점을 끈 ②′ 는 15.7% 다. 감점이 「비운 위성 칸이 보이는 장」을 막는다.
  • E5 는 ② 에서 나빠진다(+2.3%p).
  • ※ E1 · D2 는 측정기 불일치다. ② 는 컴포넌트 제목을 싣는데, BQ 측정기는 문서 제목을 정답으로 쓴다.
    • E1 결함 근거 144 중 126 이 「제목이 page_yaml 과 다르다」이고, D2 결함은 모두 제목 칸이다.
    • 제목 사유를 빼면(제안 보정) D2 는 차이가 0 이 된다. E1 은 0.5% → 5.0%(+4.5%p, +2.9 – +6.2)가 남는다.
    • 측정기에 컴포넌트 제목을 알리기 전에는 E1 결론을 내지 않는다.

2-5. 사람 검수 대체 — 위성 결함 사례

judge 는 BAD 인데 관문 카드가 결함을 못 잡은 장을 에이전트가 그림으로 봤다.

본 장 결함 있음 judge 오판
① 10 7 3
② 30 23 7
  • ② 에서 많이 본 결함은 둘이다.
    • 같은 글 두 번(제목 칸과 본문 · 말풍선 · 꼬리 글이 같은 글, 5장). 컴포넌트 제목 칸에서 생기는 위성 고유 결함으로 보인다(해석). 지금 관문 카드에는 이것을 재는 카드가 없다.
    • 표 템플릿 13903035 의 행 정렬 불일치(5장).
  • 그 밖에 차트 범주 · 수치 글 없음(4), 템플릿 문구 남음(1), 비운 글 자리 빈 상자(1) 등이 있다.
  • 오판 비율로 BAD 를 보정하면 ① 20.1% · ② 21.6%, ②−① +1.5%p(구간 −1.5 – +4.6)다. 원값(−0.8%p)과 방향이 바뀌지만 둘 다 0 을 걸친다.
  • 사람 판정으로 확정하려면 이 40장을 사람이 다시 본다.

2-6. 이상 L3(⑤ 합성 대리) — 6쌍 모두 졌다

  • 방법: 부모 DO 1위 장의 entity 상자 안에, 자식 DO 1위 장을 종횡비를 지켜 줄여 넣었다(변형 A · B).
  • 결과: ⑤ 대 ② 6쌍(원문 3 × 변형 2)에서 ② 가 모두 이겼다. 순서를 바꿔도 같았다.
  • 사유: 자식이 썸네일 크기라 읽히지 않음(축척 0.06–0.22) · 내용 누락 · 깨진 상자.
  • 이것은 대리의 한계다. L3 포함 꼴의 잠재 효과를 이 대리로는 잴 수 없다. 실제 조합 설계에 무엇이 필요한지는 동반 문서의 「L3 조합(⑤ 합성기)」 절에 있다.

2-7. 어휘 확장(18 → 45종) 효과

  • ①-49 대 ① 은 L1 · L2 를 45종 어휘로 다시 생성한 효과다(L3 와 무관).
  • judge BAD 는 같다(+0.1%p).
  • 짝 선호는 ①-49 를 고른다(+14.0%p, +1.6 – +25.8).
  • 시각적 계층 구조 축만 나빠진다(+2.6%p).
  • ①-49 는 「시각화 종류」 추천(1군) 문서 없이 돌았다. 그래서 이 값은 어휘 확장과 군 구분 없음이 합쳐진 효과다.
  • 이 결과는 위성 대 L3 질문 밖이지만, 18종 제약이 L3 생성도 막는다는 점(2-8 관문 2)과 이어진다.

2-8. L3 가 서비스까지 닿지 못하는 세 관문

원문 ──▶ 생성 ──▶ 공급(검색) ──▶ 서비스 노출
 0.25–0.5%   L2 와 같음 61–64%   앞 10 에 L3 0/11
관문 운영 원문 400(recent400) L3 에 유리한 가상 원문 50 해석
1. 원문 — 포함 구조가 원문에 있나 L3 형 V3 1/400(0.25%) · V1 2/399(0.5%) V3 5/50(10%) · V1 8/50(16%) 원문 쪽 몫이 크다. 포함 구조를 원문에 분명히 박으면 30–40배가 된다. 운영 생성 로그에 L3 는 0건, 병치(형제 2개 이상)는 L2 의 17.0% 다
2. 생성 — 프롬프트가 원본 꼴을 내나 세 문서 모두 「항목마다 자식」 꼴. 공급 다수 꼴과 맞는 것 0 원본 조합 + 꼴 일치 V3 1/50 · V1 5/50. 「하나」 꼴 원문에서 L3 형 1/28(두 판 모두). L3 형이 아닌 출력의 61–64%(27/44 · 27/42)가 같은 원문의 L2 와 최상위 type 집합이 같다 판별 문장 「항목마다 반복되는 수치나 강조」가 공급 다수 꼴(하나에 하나)을 이끌지 못한다. 18종에 BigNumber · ProfileCard · QuoteTestimonial 이 없다
3. 공급 — 검색이 N1 · N2 로 맞추나 L3 항목 1(id 300) → N3 → 버림. 그림 다른 장 0 L3 형 13 중 2건은 서버 시간 예산 초과. 나머지 11 중 N1 · N2 가 나온 것 1(원본이 아닌 DO). L1 · L2 와 함께 실어 거른 뒤 앞 10 에 남은 L3 0/11 「항목마다」 질의는 pair_nested 의 개수 관문에서 떨어진다(질의 자식 수가 후보보다 많으면 실패). 포함 공급은 2.7 판 frame 의 0.25% 다

L3 세 관문 퍼널

각 단계를 지난 문서 수. 막대는 첫 단계 대비 길이다. 0 인 단계는 막대가 없다.

운영 원문 400 (V3 + V1 생성 799)

L3 생성 문서799
관문 1 · 2: L3 형3
관문 3: 대표 결과가 N1 · N20
앞 10 에 남은 L30

L3 유리 가상 원문 50 (V3 + V1 생성 100)

L3 생성 문서100
관문 1 · 2: L3 형13
검색 응답을 받음11
관문 3: N1 · N2 결과 있음1
L1 · L2 와 함께 거른 뒤 앞 10 에 남음0

자료: data/summary/m1-*.json · data/l3/r400-l3form.json · data/l3/fav50/*.json(search). 항목별 내용은 L3 세트에 있다.

L3 형 생성 비율(M1)

분모 = 생성 성공 문서. 「원본 조합 + 꼴 일치」는 L3 유리 원문 50 에서만 잰다(원본 DO 가 있는 표본).

  • L3 형
  • 원본 조합 + 꼴 일치

막대 길이는 비율에 비례한다(같은 축). 자료: data/summary/m1-r400.json · m1-fav50.json · data/l3/fav50/*.json(match)

  • 가상 원문 50 은 포함 DO 50개(조합 50가지)에 맞춰 LLM 이 썼다. 실제 유저 원문보다 구조 표지가 뚜렷하다(L3 에 유리).
  • 「바깥만」 갈래(안쪽 내용을 바깥 entity items 로 접음, V3 12 · V1 19)는 스키마상 L1 접기와 정보량이 같다. 이것은 생성 결함으로 보기 어렵다. 「L1 Versus 질의가 Versus ⊃ List DO 를 찾는가」 같은 검색 쪽 동치 문제는 따로 재야 한다(제안).
  • 판정: 프롬프트만 고쳐서는 ③ 의 효과가 나기 어렵다. 지금 공급 꼴 · 관문으로는 L3 형을 더 만들어도 ③ = ① 이 되기 쉽다(해석).

권고 — 11/27 범위 (제안)

위성을 주로 하고, L3 는 「조합 없는 매칭까지」 또는 보류한다. 근거 기준이 따로 정해진 것은 없으므로, 아래는 모두 제안이다.

위성 (주)

  • 범위:
    • tree 위성 계산(코드).
    • 컴포넌트 title · subtitle 생성.
    • 질의 위성 · 부제 짝.
    • 위성 감점 · 가점.
    • 못 채운 위성 글 비우기.
    • 같은 글 두 번 막기.
    • 측정기에 컴포넌트 제목 반영.
  • 조건:
    • 감점 · 가점을 꼭 함께 넣는다(감점이 없으면 E3 +9.8%p).
    • box · near 귀속과 deco 는 이번 범위에서 빼고, tree 위성만 쓴다. near 는 검증이 안 됐고, 추출기 작업량이 대로 커진다.
    • 같은 글 두 번 결함은 생성 프롬프트(제목이 entity 글을 되풀이하지 않게)와 대치 검사 양쪽에서 막는다. 재는 카드를 같이 만든다.
    • 배포 전에 사람이 그림을 확인한다(사람 검수 대체 40장의 재확인 포함).

L3 — 조합 없는 매칭까지, 또는 보류

  • 조합 없는 매칭까지 할 조건:
    • Rust 서버 이식과 N1 · N2 노출 규칙만 넣는다. 결과가 바뀌는 장이 거의 없다는 점을 받아들인다.
    • 프롬프트 판별 문장을 공급 다수 꼴(「entity 하나에 자식 하나」)도 포함으로 이끌게 고치고, L3 유리 원문 50 으로 다시 잰다.
    • pair_nested 개수 관문을 그대로 둘지 정한다(검색 담당 결정).
  • 보류할 조건: 위의 셋을 11/27 안에 할 여력이 없으면 보류한다. 지금 상태로 켜면 서비스 결과가 바뀌지 않으므로 보류해도 잃는 것이 없다(이번 측정 범위에서).
  • L3 조합 포함은 11/27 범위에 넣지 않기를 권한다. 작업량이 대이고 로드맵 조합 단계와 겹친다. 대리 실험(⑤)은 6/6 졌다.

한계와 가정이 결과를 기울이는 방향

가정 · 한계 내용 기울기
위성 제목 생성(A-2) 컴포넌트 제목 · 부제를 실험용 지시문으로 운영 YAML 에 덧붙였다 ② 의 짝 선호 · D4 이득의 출처다. 같은 글 두 번 결함도 여기서 나온 것으로 보인다. 운영 생성 프롬프트로 바꾸면 양쪽 다 달라진다
위성 감점 · 가점(A-3) 감점 10 · 가점 3 ② 대 ②′ 로 민감도를 쟀다. 감점 없이는 위성이 불리하다
위성 비우기(A-4) 못 채운 위성 desc 를 비운다 E3 이 빈 자리로 셀 수 있다 → 위성에 불리. ② 는 감점이 상쇄한다
현실 L3(A-5 · A-6 · A-8) N1 · N2 만 노출 · PoC 계보 프롬프트 · 18종 어휘 ③ · ④ = ① · ② 의 원인이다. L3 를 불리하게(사실상 효과 0 으로) 기울인다
이상 L3(A-7 · A-11) 축소 합성 대리 · 45종 어휘 ⑤ 를 크게 불리하게 기울인다. 6/6 패배는 대리의 한계로 읽는다
풀(A-10) 구판 포함 DO 1,008 을 덧붙였다(포함 공급 2.4배) L3 에 유리하게 기울였는데도 ③ · ④ 효과가 0 이다
짝 선호(A-12) 새 측정기. judge 와 같은 모델 계열 위치 편향이 있다. 갈림 20%
그림 없는 장(A-13) ② · ②′ 에서 굽기 실패 장을 BAD 로 셌다 위성에 불리(표본 5 · 3장, BAD 약 0.5%p). 원인은 DO 에 매인 합성기 실패다(위성 원인 아님)
BQ 측정기 제목 정답 = 문서 제목 E1 · D2 를 위성에 불리하게 기울인다
judge rep 1 같은 그림 재판정 BAD 일치 65% 「같음」에 흔들림이 섞인다. 양쪽 모두에 같다
가상 원문(L3 유리 50) LLM 이 구조를 알고 썼다 실제보다 L3 에 유리하다
짝 선호 표본 그림이 다른 자리만 표본 전체로 펴면 순승은 약 0.9배로 줄어든다(해석)

부록