Skip to content

Обновление моделей и кода чатбота

Pre-release
Pre-release
Compare
Choose a tag to compare
@Koziev Koziev released this 28 Nov 06:13
· 9 commits to core_v4 since this release

Несколько небольших изменений:

  1. Модель читчата и reasoner'а уменьшена до 355 млн. параметров, чтобы ускорить генерацию ответов при инференсе на CPU.
  2. Обновлена модель retriever'а, которая сопоставляет запрос и факты в базе знаний. Ее обучающий датасет расширен примерами для фактов про поэтов, и досыпано много негативных сэмплов, полученних при hard negative mining'е.
  3. База знаний расширена фактами о поэтах, поправлены опечатки.

Докер-образ как обычно доступен тут.