编程语言
首页 > 编程语言> > 使用Python中的Scipy Hierarchy Clustering进行文本聚类

使用Python中的Scipy Hierarchy Clustering进行文本聚类

作者:互联网

我有一个文本语料库,每个文章包含1000个文章.我试图在python中使用Scipy使用层次结构聚类来生成相关文章的集群.
这是我用来进行聚类的代码

# Agglomerative Clustering
import matplotlib.pyplot as plt
import scipy.cluster.hierarchy as hac
tree = hac.linkage(X.toarray(), method="complete",metric="euclidean")
plt.clf()
hac.dendrogram(tree)
plt.show() 

我得到了这个情节

然后我用fcluster()切断了第三层的树

from scipy.cluster.hierarchy import fcluster
clustering = fcluster(tree,3,'maxclust')
print(clustering)

我得到了这个输出:
[2 2 2 …,2 2 2]

我的问题是如何在每个群集中找到前10个常用词,以便为每个群集建议一个主题?

解决方法:

您可以执行以下操作:

>将结果(您的聚类变量)与您的输入(1000篇文章)对齐.
>使用pandas库,您可以使用groupby函数将集群#作为其键.
>每组(使用get_group函数),为每个填充一个整数的defaultdict
你遇到的一句话.
>您现在可以按降序对单词计数字典进行排序,并获得所需数量的最常用单词.

祝你好运,请接受我的答案,如果你正在寻找的话.

标签:text-mining,python,scipy,cluster-analysis
来源: https://codeday.me/bug/20191006/1858736.html