一个可以使用自己语料进行训练的中文聊天机器人,目前包含seq2seq tf1.x和tf.2x版本,seqGan版本为tf1.x版本,pytorch版本,欢迎大家实践交流。
这本是一个我自己学习NLP练手的项目,随着不断和更新和完善,得到了大家的关注和喜爱。但是我知道现在这个项目工程是比较糟糕的,不管是代码结构还是项目融合上都有问题,而且还存在BUG.
因此准备做以下更新计划:
1、项目工程重新构建,更加合理,减少冗余的同时保证各个模块的独立性。
2、整改前端页面,增加后端管理页面(这块其实主要是找开源的项目来修改),支持可视化配置。
3、只保留TF2.X版本和pytorch版本,模型上优先是seq2seq、seqGAN,增加BERT模型,并引入大规模分布式训练;在功能上增加FAQ问答机器人。
4、前两项计划在1月31日(大年夜)之前完成并更新,第三项计划在5月1日前完成并更新,因此如果需要保留现在的版本,可以提前下载到本地。
大家可以使用小黄鸡的预料,地址https://github.com/zhaoyingjun/chatbot/blob/master/chineseChatbotWeb-tf2.0/seq2seqChatbot/train_data/xiaohuangji50w_nofenci.conv
1、在下载好代码和语料之后,将语料文件放入data目录下。
2、按照 数据预处理器(data_utls.py)-->execute.py(执行器)-->app.py(可视化对话模块)的顺序执行就可以了。
3、超参配置在seq2seq.ini和seq2seq_sever.ini文件中配置。
1 、在下载好代码和语料之后,将语料文件放入source_data目录下。 2、按照 数据预处理器(source_data_utls.py)-->execute.py(执行器)-->app.py(可视化模块)的顺序执行就可以了
http://blog.topspeedsnail.com/archives/10735/comment-page-1#comment-1161。
http://www.easyapple.net/?p=1384&from=singlemessage&isappinstalled=0。
https://github.com/zpppy/seqGan_chatbot
ubuntu14.04
python3.5
TF1.X:
tensorflow==1.10.1或者tensorflow-gpu==1.10.1
flask==0.11.1
TF2.X: tensorflow==2.0.0 flask==0.11.1
pytorch: torch==1.11 flask==0.11.1
V1.1:已经增加中文分词,效果是变得更好了。注意在使用分词后,需要增加词典的大小,否则的话会导致词典无法覆盖训练集,导致出现很多的UNK。直接在seq2seq.ini中修改超参数enc_vocab_size和dec_vocab_size的值即可。
V2.0:增加一个基于SeqGan的版本,以增加训练的效果。
V3.0:增加TensorFlow2.0版,训练效果见文件夹内图片,训练数据已经准备好,直接执行python3 execute即可进行训练。 PS:预训练好了一个模型,链接:https://pan.baidu.com/s/1zcrBn8dpOhtBZu_T7TOO9w 密码:s7sq,可以下载使用,模型的效果见效果图,在使用预训练模型前需要先执行data_utl.py文件更新字典。
V4.0:a、seq2seq模型增加pytorch版本,seqGAN模型pytorch版本稍后更新;b、对当前的工程结构进行调整。
V4.1:seqGAN模型增加tf2.0和pytorch版本,敬请期待。