Natural Language Verifier
Вчера DeepMind показали Aletheia. Все говорят про "6 решенных задач". Я смотрю на архитектуру.
И там есть одна деталь, которая важнее самих задач.
Они использовали Natural Language Verifier.
Раньше мы пытались заставить модель писать код (Lean/Coq) и проверять его компилятором. Это работало, но медленно и требовало формализации.
Aletheia делает иначе. Она использует другую LLM (или саму себя в другом режиме), чтобы критиковать свои же рассуждения на естественном языке.
Цикл (Loop):
1. Generator: "Я думаю, теорема верна, потому что X".
2. Verifier: "В шаге X есть логическая дыра. Ты забыл случай Y".
3. Refiner: "Ок, исправляю..."
Это Socratic Method (Метод Сократа), автоматизированный на GPU.
Модель спорит сама с собой, пока не найдет истину (Aletheia с греческого — "Истина").
Вывод для Архитекторов:
Если вы строите агентов, прекратите надеяться на Zero-Shot ("ответь сразу").
Внедряйте Reflexion Loop. Пусть ваш агент сначала сгенерирует черновик, потом сам его раскритикует, и только потом отдаст юзеру.
Качество вырастет в разы. Aletheia — доказательство.
🔗 ArXiv Paper
Status: Critiquing my own thoughts...
От материала к примеру
Посмотрите, как ИИ помогает в рабочей задаче
В 21-минутном видео Ян на примере поиска клиентов и подготовки письма показывает порядок работы: какие сведения дать ИИ, как получить черновик и где проверить ответ. Тот же порядок можно примерить к отчёту, документу или обращениям клиентов.
Фрагмент открыт сразу. Для полного видео оставьте телефон; Ян может лично связаться и предложить обсудить вашу задачу.
Пока удобнее просто смотреть за практикой? В @hype_and_hope Ян показывает рабочие примеры и новые вопросы об ИИ.
Новости инструментов и наблюдения Сигизмунда — в @watchandread.