Обновление моделей и кода чатбота
Pre-release
Pre-release
Несколько небольших изменений:
- Модель читчата и reasoner'а уменьшена до 355 млн. параметров, чтобы ускорить генерацию ответов при инференсе на CPU.
- Обновлена модель retriever'а, которая сопоставляет запрос и факты в базе знаний. Ее обучающий датасет расширен примерами для фактов про поэтов, и досыпано много негативных сэмплов, полученних при hard negative mining'е.
- База знаний расширена фактами о поэтах, поправлены опечатки.
Докер-образ как обычно доступен тут.