Documentation
¶
Overview ¶
Command pairs собирает парный корпус комментариев из одного коммита: в нём агент переписал комментарии, оригиналы лежат в родителе. До правки - "human", после - "ai". Один репозиторий, одни файлы, разница в том, кто написал текст.
go run ./eval/pairs --repo ../foundation --commit f79c901006 --out corpus/f79c901006-comments.jsonl
Формат строк читает eval/lift: {lang, label, text}. lang ставится по самому тексту, как в основном коде: доля кириллицы от 0.3 - ru, иначе en.
Блоки сопоставляются по коду рядом (Comment.Next): коммит правит комментарии, код рядом остаётся тем же, поэтому совпадение Next - надёжнее позиций в диффе, которые съезжают от сокращения строк. Пара берётся только когда текст поменялся: нетронутые блоки не несут контраста, а добавленные или удалённые без пары смещают частоты в одну сторону.