使用Scikit-learn计算信息增益
machine-learning
python
scikit-learn
6
0

我正在使用Scikit学习进行文本分类。我想针对(稀疏)文档术语矩阵中的类来计算每个属性的信息增益。信息增益定义为H(Class)-H(Class | Attribute),其中H是熵。

使用weka,可以通过InfoGainAttribute实现 。但是我还没有在scikit-learn中找到这种方法。

但是,已经建议上述信息获取的公式与互信息是相同的度量。这也与Wikipedia中的定义匹配。

是否可以在scikit-learn中使用特定的相互信息设置来完成此任务?

参考资料:
Stack Overflow
收藏
评论
共 1 个回答
高赞 时间 活跃

如果这是一个示例,则可以使用scikit-learn的mutual_info_classif

from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_selection import mutual_info_classif
from sklearn.feature_extraction.text import CountVectorizer

categories = ['talk.religion.misc',
              'comp.graphics', 'sci.space']
newsgroups_train = fetch_20newsgroups(subset='train',
                                      categories=categories)

X, Y = newsgroups_train.data, newsgroups_train.target
cv = CountVectorizer(max_df=0.95, min_df=2,
                                     max_features=10000,
                                     stop_words='english')
X_vec = cv.fit_transform(X)

res = dict(zip(cv.get_feature_names(),
               mutual_info_classif(X_vec, Y, discrete_features=True)
               ))
print(res)

这将输出每个属性的字典,即词汇表中的项作为键,其信息增益作为值

这是输出的样本

{'bible': 0.072327479595571439,
 'christ': 0.057293733680219089,
 'christian': 0.12862867565281702,
 'christians': 0.068511328611810071,
 'file': 0.048056478042481157,
 'god': 0.12252523919766867,
 'gov': 0.053547274485785577,
 'graphics': 0.13044709565039875,
 'jesus': 0.09245436105573257,
 'launch': 0.059882179387444862,
 'moon': 0.064977781072557236,
 'morality': 0.050235104394123153,
 'nasa': 0.11146392824624819,
 'orbit': 0.087254803670582998,
 'people': 0.068118370234354936,
 'prb': 0.049176995204404481,
 'religion': 0.067695617096125316,
 'shuttle': 0.053440976618359261,
 'space': 0.20115901737978983,
 'thanks': 0.060202010019767334}
收藏
评论
新手导航
  • 社区规范
  • 提出问题
  • 进行投票
  • 个人资料
  • 优化问题
  • 回答问题

关于我们

常见问题

内容许可

联系我们

@2020 AskGo
京ICP备20001863号