到2018年3月7日为止，本系列三篇文章已写完，可能后续有新的内容的话会继续更新。
python下进行lda主题挖掘(一)——预处理(英文)python下进行lda主题挖掘(二)——利用gensim训练LDA模型python下进行lda主题挖掘(三)——计算困惑度perplexity
本篇是我的LDA主题挖掘系列的第三篇，专门来介绍如何对训练好的LDA模型进行评价。
训练好LDA主题模型后，如何评价模型的好坏？能否直接将训练好的模型拿去应用？这是一个比较重要的问题，在对模型精度要求比较高的项目或科研中，需要对模型进行评价。一般来说，LDA模型的主题数量都是需要需要根据具体任务进行调整的，即要评价不同主题数的模型的困惑度来选择最优的那个模型。
那么，困惑度是什么？
1.LDA主题模型困惑度
这部分参照：LDA主题模型评估方法–Perplexity，不过后面发现这篇文章Perplexity(困惑度)感觉写的更好一点，两篇都是翻译的维基百科。
2.困惑度perplexity公式
其中，p(w)是指的测试集中出现的每一个词的概率，具体到LDA的模型中就是 (z,d分别指训练过的主题和测试集的各篇文档)。分母的N是测试集中出现的所有词，或者说是测试集的总长度，不排重。
3.计算困惑度的代码
参考资料
到此这篇lda主题模型主题个数python（lda主题模型文本分类）的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章，希望大家都能在编程的领域有一番成就！
版权声明：
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符，请将相关资料发送至xkadmin@xkablog.com进行投诉反馈，一经查实，立即处理！
转载请注明出处，原文链接：https://www.xkablog.com/pythonbc/54528.html