
Генерация кода с ограничениями грамматикой с помощью крошечной GPT-модели
Разработчик использовал реализацию GPT, написанную с нуля, для генерации программ на языке Pebble, добавив парсер, который отклонял токены, не способные привести к синтаксически корректному коду. Декодирование с ограничениями повысило измеренную долю успешно…
Генерировать исходный код Pebble посимвольно, не допуская синтаксически недопустимых продолжений.
PyLLM with a hand-written Pebble parser
В 20 запусках с разными начальными значениями генерация без ограничений создала разбираемый код для 4% из 27 программ,…
Контекст источникаRob Cox









