Нейро-символическая фузия LLM для логического планирования

https://youtu.be/H2GIhAfRhEo?list=TLGGfLOGh_zpJJEzMDA5MjAyNQ Текст представляет собой расшифровку видео на YouTube-канале "Discover AI", обсуждающего новую исследовательскую работу Массачусетского технологического института и Microsoft о нейро-символической интеграции для улучшения логического планирования в больших языковых моделях (LLM). В видео подробно описывается методология под названием PDDDL-instruct, которая значительно повышает точность планирования LLM, о чем свидетельствует резкое увеличение процента точности в бенчмарках. Ключевое новшество заключается в использовании двухэтапного процесса обучения с настройкой инструкций, при котором LLM обучается на правильных и неправильных планах, включающих подробные объяснения логических ошибок. Самый критически важный элемент — это цикл обратной связи, где внешний, детерминированный символический решатель проверяет логическую обоснованность каждого шага рассуждений LLM, а затем предоставляет детальную логическую обратную связь, которая используется для дальнейшей оптимизации и обучения модели. В итоге, работа предлагает симбиотический подход, объединяющий возможности рассуждений LLM с логической точностью символических систем.