当前位置:天才代写 > tutorial > 其他教程 > NLTK:一个先进的用来处理自然语言数据的Python程序。

NLTK:一个先进的用来处理自然语言数据的Python程序。

2018-05-16 08:00 星期三 所属: 其他教程 浏览:810

本资源由 伯乐在线 – 赵叶宇 整理

nltk

NLTK是一个高效的Python构建的平台,用来处理人类自然语言数据。它提供了易于使用的接口,通过这些接口可以访问超过50个语料库和词汇资源(如WordNet),还有一套用于分类、标记化、词干标记、解析和语义推理的文本处理库,以及工业级NLP库的封装器和一个活跃的讨论论坛。

统计语言学话题方面的手动编程指南加上全面的API文档,使得NLTK非常适用于语言学家、工程师、学生、教育家、研究人员以及行业用户等人群。NLTK可以在Windows、Mac OS X以及Linux系统上使用。最好的一点是,NLTK是一个免费、开源的社区驱动的项目。

NLTK被称为“一个使用Python开发的用于统计语言学的教学和研究的有利工具”和“一个自然语言处理的高效库”。

Python自然语言处理提供了一个自然语言处理的实例介绍。这个介绍是由NLTK的创建者所写的,它引导读者通过编写Python程序,使用语料库,分类文本,分析语言结构等基本过程来理解NLTK的使用。 这本书正在为Python3版本和NLTK3版本更新内容。(Python2版本仍然可以在http://nltk.org/book_1ed获得。)

用NLTK实现的简单例子

给一些文本做标记和打标签

Shell

1234567891011 >>> import nltk>>> sentence = “””At eight o’clock on Thursday morning… Arthur didn’t feel very good.”””>>> tokens = nltk.word_tokenize(sentence)>>> tokens[‘At’, ‘eight’, “o’clock”, ‘on’, ‘Thursday’, ‘morning’,’Arthur’, ‘did’, “n’t”, ‘feel’, ‘very’, ‘good’, ‘.’]>>> tagged = nltk.pos_tag(tokens)>>> tagged[0:6][(‘At’, ‘IN’), (‘eight’, ‘CD’), (“o’clock”, ‘JJ’), (‘on’, ‘IN’),(‘Thursday’, ‘NNP’), (‘morning’, ‘NN’)]

识别已命名的实体

Shell

1234567 >>> entities = nltk.chunk.ne_chunk(tagged)>>> entitiesTree(‘S’, [(‘At’, ‘IN’), (‘eight’, ‘CD’), (“o’clock”, ‘JJ’),       (‘on’, ‘IN’), (‘Thursday’, ‘NNP’), (‘morning’, ‘NN’),   Tree(‘PERSON’, [(‘Arthur’, ‘NNP’)]),       (‘did’, ‘VBD’), (“n’t”, ‘RB’), (‘feel’, ‘VB’),       (‘very’, ‘RB’), (‘good’, ‘JJ’), (‘.’, ‘.’)])

显示解析树

Shell

123 >>> from nltk.corpus import treebank>>> t = treebank.parsed_sents(‘wsj_0001.mrg’)[0]>>> t.draw()

安装NLTK

NLTK要求Python的版本为2.7或者3.2以上

Mac/Unix

#p#分页标题#e#

1.安装NLTK:执行sudo pip install -U nltk
2.安装Numpy(可选):执行sudo pip install -U numpy
3.安装测试:执行pyhon,进入python环境后再执行import nltk

Windows

以下安装指南默认用户还没有在本地安装Python

32位安装

1.安装Python3.4:http://www.python.org/downloads/ (避免安装64位版本)
2.安装Numpy(可选):http://sourceforge.net/projects/numpy/files/NumPy/(适用于Python3.4的版本)
3.安装NLTK:http://pypi.python.org/pypi/nltk
4.安装测试:Start>Python34,再输入import nltk

安装第三方软件

参照:http://github.com/nltk/nltk/wiki/Installing-Third-Party-Software

安装NLTK数据

NLTK附带了许多语料库,toy grammar以及训练模型等。完整的列表发布在:http://nltk.org/nltk_data/
要安装这些数据,首先安装NLTK(安装指南见http://nltk.org/install.html,再利用下述NLTK的数据下载器。
除了一些个人数据包,用户还可以下载整个集合(使用“all”),或者仅下载书中例子和练习中使用到的数据(使用“book”),或者仅下载没有语法和训练模型的语料库(使用“all-corpora”)。
详细安装教程见http://www.nltk.org/data.html

为NLTK做贡献

自然语言处理工具(NLTK)的发展完全得益于许多开发者们的共同努力,项目启动于2000年。
在2015年,NLTK团队将NLTK的范围扩展到了其他领域。在2016年将继续细化在这些领域的技术支持。其他关于开发者信息包括:

  • 贡献方式
  • 功能改进
  • 贡献语料库
  • nltk-dev邮件列表
  • GitHub项目
  • 其他资源

  • NLTK常见问题解答
  • NLTK wiki
  • NLTK API
  • NLTK HOW TO板块
  • NLTK文档索引页面
  • 开发资源

  • NLTK维基百科
  • 知乎:如何用Python中的NLTK对中文进行分析和处理?
  • NLTK在pypi的链接
  • 探索Python、机器学习和NLTK库
  • Python中NLTK中文使用与学习资料汇总
  • 使用NLTK对单词和句子进行分词
  • 官方网站:http://www.nltk.org
    开源地址:http://github.com/nltk/nltk

     

      关键字:

    天才代写-代写联系方式