Anthropic показала FlashProve — исследовательский подход, в котором модель помогает быстрее проверять формальные свойства программ и находить ошибки в доказательствах.
Что произошло
Формальная верификация требует переводить требования к программе в строгие математические утверждения. В новом подходе модель предлагает промежуточные шаги и исправления, а специализированный проверяющий механизм отбрасывает неверные варианты.
Ключевая идея — не считать ответ языковой модели доказанным автоматически. Модель генерирует кандидата, но окончательное решение принимает формальный проверяющий контур, который не зависит от убедительности текста.
Почему это важно
Проверка программ особенно ценна в компиляторах, криптографии, системном ПО и других областях, где обычные тесты не покрывают все состояния. Ускорение подготовки доказательств может сделать такие методы доступнее для инженерных команд.
При этом технология не отменяет экспертизу: нужно правильно сформулировать свойство, выбрать модель вычислений и проверить границы применимости. ИИ здесь выступает помощником в тяжёлой рутинной части, а не источником доверия сам по себе.
Вывод
Связка генеративной модели с независимым проверяющим механизмом выглядит одним из наиболее практичных направлений для надёжного ИИ. Она показывает, что в критичных задачах ценность даёт не свободный текст, а возможность машинно проверить каждый существенный шаг.