init
This commit is contained in:
24
2_валидация_анализа_по_блокам/README.md
Normal file
24
2_валидация_анализа_по_блокам/README.md
Normal file
@@ -0,0 +1,24 @@
|
||||
# Валидация анализа по блокам
|
||||
|
||||
Отдельный промпт на каждый блок анализа главы. Цель — повысить качество проверки за счёт узкого фокуса.
|
||||
|
||||
## Блоки и промпты
|
||||
|
||||
| Блок | Файл промпта | Что проверяем |
|
||||
|-------------|------------------------|----------------------------------------|
|
||||
| framework | validate_framework.txt | Принципы, цепочки cause–mechanism–result |
|
||||
| insights | validate_insights.txt | Инсайты (title, description) |
|
||||
| application | validate_application.txt | Техники (name, goal, steps) |
|
||||
| limitations | validate_limitations.txt | Ограничения, оговорки |
|
||||
|
||||
## Подстановки в промптах
|
||||
|
||||
- `{book_title}` — название книги
|
||||
- `{chapter_title}` — название главы
|
||||
- `{chapter_text}` — текст главы
|
||||
- `{framework_json}` — JSON блока `framework`
|
||||
- `{insights_json}` — JSON блока `insights`
|
||||
- `{application_json}` — JSON блока `application`
|
||||
- `{limitations_json}` — JSON блока `limitations`
|
||||
|
||||
Промпты рассчитаны на тестирование по одному; доработка — по результатам прогонов.
|
||||
43
2_валидация_анализа_по_блокам/validate_application.txt
Normal file
43
2_валидация_анализа_по_блокам/validate_application.txt
Normal file
@@ -0,0 +1,43 @@
|
||||
Ты валидатор блока application (техники). Проверь ТОЛЬКО этот блок.
|
||||
|
||||
Данные:
|
||||
- Книга: "{book_title}"
|
||||
- Глава: "{chapter_title}"
|
||||
- Текст главы: {chapter_text}
|
||||
- Блок application (JSON): {application_json}
|
||||
|
||||
---
|
||||
|
||||
## ЗАДАЧА
|
||||
|
||||
Проверь соответствие блока application тексту главы:
|
||||
1. Каждая техника (name, goal, steps) должна иметь опору в тексте (описание метода, примеры, рекомендации).
|
||||
2. Утверждения или шаги без опоры в тексте — галлюцинации.
|
||||
3. Описанные в тексте техники/методы, которых нет в блоке — пропуски.
|
||||
|
||||
Проверяй идеи и шаги, а не формулировки. steps особенно важны — они должны быть из текста, а не придуманы.
|
||||
|
||||
---
|
||||
|
||||
## ФОРМАТ ОТВЕТА
|
||||
|
||||
СТРОГО JSON без комментариев:
|
||||
|
||||
{
|
||||
"verdict": "ok" | "needs_review" | "bad",
|
||||
"score": 0.0,
|
||||
"hallucinations": [
|
||||
{
|
||||
"location": "application/techniques[0]/steps",
|
||||
"summary": "В анализе шаг '[цитата]', в тексте такого нет"
|
||||
}
|
||||
],
|
||||
"missing_key_points": [
|
||||
{
|
||||
"summary": "В тексте описана техника X, в application её нет",
|
||||
"evidence": "краткая отсылка к тексту"
|
||||
}
|
||||
]
|
||||
}
|
||||
|
||||
VERDICT: ok — проблем нет; needs_review — 1–2 замечания; bad — галлюцинации в steps или много пропусков.
|
||||
File diff suppressed because one or more lines are too long
43
2_валидация_анализа_по_блокам/validate_framework.txt
Normal file
43
2_валидация_анализа_по_блокам/validate_framework.txt
Normal file
@@ -0,0 +1,43 @@
|
||||
Ты валидатор блока framework (принципы и цепочки причина–механизм–результат). Проверь ТОЛЬКО этот блок.
|
||||
|
||||
Данные:
|
||||
- Книга: "{book_title}"
|
||||
- Глава: "{chapter_title}"
|
||||
- Текст главы: {chapter_text}
|
||||
- Блок framework (JSON): {framework_json}
|
||||
|
||||
---
|
||||
|
||||
## ЗАДАЧА
|
||||
|
||||
Проверь соответствие блока framework тексту главы:
|
||||
1. Каждое утверждение в principles/description и chains (cause, mechanism, result) должно иметь опору в тексте.
|
||||
2. Утверждения без опоры в тексте — галлюцинации.
|
||||
3. Ключевые принципы/цепочки из текста, которых нет в блоке — пропуски.
|
||||
|
||||
Проверяй идеи, а не формулировки. Одна и та же мысль другими словами — не ошибка.
|
||||
|
||||
---
|
||||
|
||||
## ФОРМАТ ОТВЕТА
|
||||
|
||||
СТРОГО JSON без комментариев:
|
||||
|
||||
{
|
||||
"verdict": "ok" | "needs_review" | "bad",
|
||||
"score": 0.0,
|
||||
"hallucinations": [
|
||||
{
|
||||
"location": "framework/principles[0]/chains[0]/mechanism",
|
||||
"summary": "В анализе: '[цитата]', в тексте такого нет"
|
||||
}
|
||||
],
|
||||
"missing_key_points": [
|
||||
{
|
||||
"summary": "В тексте описан принцип X, в framework его нет",
|
||||
"evidence": "краткая отсылка к тексту"
|
||||
}
|
||||
]
|
||||
}
|
||||
|
||||
VERDICT: ok — проблем нет; needs_review — есть 1–2 замечания; bad — много галлюцинаций или пропусков.
|
||||
143
2_валидация_анализа_по_блокам/validate_framework_filled.txt
Normal file
143
2_валидация_анализа_по_блокам/validate_framework_filled.txt
Normal file
File diff suppressed because one or more lines are too long
43
2_валидация_анализа_по_блокам/validate_insights.txt
Normal file
43
2_валидация_анализа_по_блокам/validate_insights.txt
Normal file
@@ -0,0 +1,43 @@
|
||||
Ты валидатор блока insights (инсайты). Проверь ТОЛЬКО этот блок.
|
||||
|
||||
Данные:
|
||||
- Книга: "{book_title}"
|
||||
- Глава: "{chapter_title}"
|
||||
- Текст главы: {chapter_text}
|
||||
- Блок insights (JSON): {insights_json}
|
||||
|
||||
---
|
||||
|
||||
## ЗАДАЧА
|
||||
|
||||
Проверь соответствие блока insights тексту главы:
|
||||
1. Каждый инсайт (title, description) должен иметь опору в тексте.
|
||||
2. Утверждения без опоры — галлюцинации.
|
||||
3. Важные инсайты из текста, которых нет в блоке — пропуски.
|
||||
|
||||
Проверяй идеи, а не формулировки.
|
||||
|
||||
---
|
||||
|
||||
## ФОРМАТ ОТВЕТА
|
||||
|
||||
СТРОГО JSON без комментариев:
|
||||
|
||||
{
|
||||
"verdict": "ok" | "needs_review" | "bad",
|
||||
"score": 0.0,
|
||||
"hallucinations": [
|
||||
{
|
||||
"location": "insights[0]/description",
|
||||
"summary": "В анализе: '[цитата]', в тексте такого нет"
|
||||
}
|
||||
],
|
||||
"missing_key_points": [
|
||||
{
|
||||
"summary": "В тексте явный инсайт X, в insights его нет",
|
||||
"evidence": "краткая отсылка к тексту"
|
||||
}
|
||||
]
|
||||
}
|
||||
|
||||
VERDICT: ok — проблем нет; needs_review — 1–2 замечания; bad — много галлюцинаций или пропусков.
|
||||
73
2_валидация_анализа_по_блокам/validate_insights_filled.txt
Normal file
73
2_валидация_анализа_по_блокам/validate_insights_filled.txt
Normal file
File diff suppressed because one or more lines are too long
43
2_валидация_анализа_по_блокам/validate_limitations.txt
Normal file
43
2_валидация_анализа_по_блокам/validate_limitations.txt
Normal file
@@ -0,0 +1,43 @@
|
||||
Ты валидатор блока limitations (ограничения, оговорки). Проверь ТОЛЬКО этот блок.
|
||||
|
||||
Данные:
|
||||
- Книга: "{book_title}"
|
||||
- Глава: "{chapter_title}"
|
||||
- Текст главы: {chapter_text}
|
||||
- Блок limitations (JSON): {limitations_json}
|
||||
|
||||
---
|
||||
|
||||
## ЗАДАЧА
|
||||
|
||||
Проверь соответствие блока limitations тексту главы:
|
||||
1. Каждое ограничение (description, при необходимости when_relevant) должно иметь опору в тексте или логично следовать из содержания главы.
|
||||
2. Ограничения, которых нет в тексте и которые не вытекают из него — галлюцинации.
|
||||
3. Важные оговорки/ограничения из текста, которых нет в блоке — пропуски.
|
||||
|
||||
Проверяй идеи. Допустимы разумные выводы из текста (например, «метод не мгновенный» при описании постепенных изменений).
|
||||
|
||||
---
|
||||
|
||||
## ФОРМАТ ОТВЕТА
|
||||
|
||||
СТРОГО JSON без комментариев:
|
||||
|
||||
{
|
||||
"verdict": "ok" | "needs_review" | "bad",
|
||||
"score": 0.0,
|
||||
"hallucinations": [
|
||||
{
|
||||
"location": "limitations[0]/description",
|
||||
"summary": "В анализе: '[цитата]', в тексте такого нет и не следует из него"
|
||||
}
|
||||
],
|
||||
"missing_key_points": [
|
||||
{
|
||||
"summary": "В тексте есть оговорка X, в limitations её нет",
|
||||
"evidence": "краткая отсылка к тексту"
|
||||
}
|
||||
]
|
||||
}
|
||||
|
||||
VERDICT: ok — проблем нет; needs_review — 1–2 замечания; bad — выдуманные ограничения или существенные пропуски.
|
||||
File diff suppressed because one or more lines are too long
Reference in New Issue
Block a user