python nlp_Python NLP入门教程

本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。

什么是NLP?

简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。

这里讨论一些自然语言处理(NLP)的实际应用例子,如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落。

这并不是NLP能做的所有事情。

NLP实现

搜索引擎: 比如谷歌,Yahoo等。谷歌搜索引擎知道你是一个技术人员,所以它显示与技术相关的结果;

社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理,就会显示相关的广告和帖子。

语音引擎:比如Apple的Siri。

垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义,来判断是不是垃圾邮件。

NLP库

下面是一些开源的自然语言处理库(NLP):

Natural language toolkit (NLTK);

Apache OpenNLP;

Stanford NLP suite;

Gate NLP library

其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP),它是用Python编写的,而且背后有非常强大的社区支持。

NLTK也很容易上手,实际上,它是最简单的自然语言处理(NLP)库。

在这个NLP教程中,我们将使用Python NLTK库。

安装 NLTK

如果您使用的是Windows/Linux/Mac,您可以使用pip安装NLTK:

pip install nltk

打开python终端导入NLTK检查NLTK是否正确安装:

import nltk

如果一切顺利,这意味着您已经成功地安装了NLTK库。首次安装了NLTK,需要通过运行以下代码来安装NLTK扩展包:

importnltk

nltk.download()

这将弹出NLTK 下载窗口来选择需要安装哪些包:

0?wx_fmt=png

您可以安装所有的包,因为它们的大小都很小,所以没有什么问题。

使用Python Tokenize文本

首先,我们将抓取一个web页面内容,然后分析文本了解页面的内容。

我们将使用urllib模块来抓取web页面:

importurllib.request

response= urllib.request.urlopen('http://php.net/')

html= response.read()

print(html)

从打印结果中可以看到,结果包含许多需要清理的HTML标签。

然后BeautifulSoup模块来清洗这样的文字:

frombs4 importBeautifulSoup

importurllib.request

response= urllib.request.urlopen('http://php.net/')

html= response.read()

soup= BeautifulSoup(html,"html5lib")

# 这需要安装html5lib模块

text= soup.get_text(strip=True)

print(text)

现在我们从抓取的网页中得到了一个干净的文本。

下一步,将文本转换为tokens,像这样:

frombs4 importBeautifulSoup

importurllib.request

response= urllib.request.urlopen('http://php.net/')

html= response.read()

soup= BeautifulSoup(html,"html5lib")

text= soup.get_text(strip=True)

tokens= text.split()

print(tokens)

统计词频

text已经处理完毕了,现在使用Python NLTK统计token的频率分布。

可以通过调用NLTK中的FreqDist()方法实现:

frombs4 importBeautifulSoup

importurllib.request

importnltk

response= urllib.request.urlopen('http://php.net/')

html= response.read()

soup= BeautifulSoup(html,"html5lib")

text= soup.get_text(strip=True)

tokens= text.split()

freq= nltk.FreqDist(tokens)

forkey,val infreq.items():

print(str(key)+ ':'+ str(val))

如果搜索输出结果,可以发现最常见的token是PHP。

您可以调用plot函数做出频率分布图:

freq.plot(20,cumulative=False)

# 需要安装matplotlib库

0?wx_fmt=png

这上面这些单词。比如of,a,an等等,这些词都属于停用词。

一般来说,停用词应该删除,防止它们影响分析结果。

处理停用词

NLTK自带了许多种语言的停用词列表,如果你获取英文停用词:

fromnltk.corpus importstopwords

stopwords.words('english')

现在,修改下代码,在绘图之前清除一些无效的token:

clean_tokens= list()

sr= stopwords.words('english')

fortokenintokens:

iftokennotinsr:

clean_tokens.append(token)

最终的代码应该是这样的:

frombs4 importBeautifulSoup

importurllib.request

importnltk

fromnltk.corpus importstopwords

response= urllib.request.urlopen('http://php.net/')

html= response.read()

soup= BeautifulSoup(html,"html5lib")

text= soup.get_text(strip=True)

tokens= text.split()

clean_tokens= list()

sr= stopwords.words('english')

fortokenintokens:

ifnottokeninsr:

clean_tokens.append(token)

freq= nltk.FreqDist(clean_tokens)

forkey,val infreq.items():

print(str(key)+ ':'+ str(val))

现在再做一次词频统计图,效果会比之前好些,因为剔除了停用词:

freq.plot(20,cumulative=False)

0?wx_fmt=png

使用NLTK Tokenize文本

在之前我们用split方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本。

文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。

你可以将段落tokenize成句子,将句子tokenize成单个词,NLTK分别提供了句子tokenizer和单词tokenizer。

假如有这样这段文本:

Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude

使用句子tokenizer将文本tokenize成句子:

fromnltk.tokenizeimportsent_tokenize

mytext= "Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude."

print(sent_tokenize(mytext))

输出如下:

['Hello Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这是你可能会想,这也太简单了,不需要使用NLTK的tokenizer都可以,直接使用正则表达式来拆分句子就行,因为每个句子都有标点和空格。

那么再来看下面的文本:

Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.

这样如果使用标点符号拆分,Hello Mr将会被认为是一个句子,如果使用NLTK:

fromnltk.tokenizeimportsent_tokenize

mytext= "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."

print(sent_tokenize(mytext))

输出如下:

['Hello Mr. Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这才是正确的拆分。

接下来试试单词tokenizer:

fromnltk.tokenizeimportword_tokenize

mytext= "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."

print(word_tokenize(mytext))

输出如下:

['Hello', 'Mr.', 'Adam', ',', 'how', 'are', 'you', '?', 'I', 'hope', 'everything', 'is', 'going', 'well', '.', 'Today', 'is', 'a', 'good', 'day', ',', 'see', 'you', 'dude', '.']

Mr.这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer,它是NLTK.tokenize的一部分。而且这个tokenizer经过训练,可以适用于多种语言。

非英文Tokenize

Tokenize时可以指定语言:

fromnltk.tokenizeimportsent_tokenize

mytext= "Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour."

print(sent_tokenize(mytext,"french"))

输出结果如下:

['Bonjour M. Adam, comment allez-vous?', "J'espère que tout va bien.", "Aujourd'hui est un bon jour."]

同义词处理

使用nltk.download()安装界面,其中一个包是WordNet。

WordNet是一个为自然语言处理而建立的数据库。它包括一些同义词组和一些简短的定义。

您可以这样获取某个给定单词的定义和示例:

fromnltk.corpus importwordnet

syn= wordnet.synsets("pain")

print(syn[0].definition())

print(syn[0].examples())

输出结果是:

asymptom of some physical hurt ordisorder

['the patient developed severe pain and distension']

WordNet包含了很多定义:

fromnltk.corpus importwordnet

syn= wordnet.synsets("NLP")

print(syn[0].definition())

syn= wordnet.synsets("Python")

print(syn[0].definition())

结果如下:

the branch of information science that deals withnatural language information

large Old World boas

可以像这样使用WordNet来获取同义词:

fromnltk.corpus importwordnet

synonyms= []

forsyn inwordnet.synsets('Computer'):

forlemma insyn.lemmas():

synonyms.append(lemma.name())

print(synonyms)

输出:

['computer', 'computing_machine', 'computing_device', 'data_processor', 'electronic_computer', 'information_processing_system', 'calculator', 'reckoner', 'figurer', 'estimator', 'computer']

反义词处理

也可以用同样的方法得到反义词:

fromnltk.corpus importwordnet

antonyms= []

forsyn inwordnet.synsets("small"):

forlinsyn.lemmas():

ifl.antonyms():

antonyms.append(l.antonyms()[0].name())

print(antonyms)

输出:

['large', 'big', 'big']

词干提取

语言形态学和信息检索里,词干提取是去除词缀得到词根的过程,例如working的词干为work。

搜索引擎在索引页面时就会使用这种技术,所以很多人为相同的单词写出不同的版本。

有很多种算法可以避免这种情况,最常见的是波特词干算法。NLTK有一个名为PorterStemmer的类,就是这个算法的实现:

fromnltk.stem importPorterStemmer

stemmer= PorterStemmer()

print(stemmer.stem('working'))

print(stemmer.stem('worked'))

输出结果是:

work

work

还有其他的一些词干提取算法,比如 Lancaster词干算法。

非英文词干提取

除了英文之外,SnowballStemmer还支持13种语言。

支持的语言:

fromnltk.stem importSnowballStemmer

print(SnowballStemmer.languages)

'danish', 'dutch', 'english', 'finnish', 'french', 'german', 'hungarian', 'italian', 'norwegian', 'porter', 'portuguese', 'romanian', 'russian', 'spanish', 'swedish'

你可以使用SnowballStemmer类的stem函数来提取像这样的非英文单词:

fromnltk.stem importSnowballStemmer

french_stemmer= SnowballStemmer('french')

print(french_stemmer.stem("French word"))

单词变体还原

单词变体还原类似于词干,但不同的是,变体还原的结果是一个真实的单词。不同于词干,当你试图提取某些词时,它会产生类似的词:

fromnltk.stem importPorterStemmer

stemmer= PorterStemmer()

print(stemmer.stem('increases'))

结果:

increas

现在,如果用NLTK的WordNet来对同一个单词进行变体还原,才是正确的结果:

fromnltk.stem importWordNetLemmatizer

lemmatizer= WordNetLemmatizer()

print(lemmatizer.lemmatize('increases'))

结果:

increase

结果可能会是一个同义词或同一个意思的不同单词。

有时候将一个单词做变体还原时,总是得到相同的词。

这是因为语言的默认部分是名词。要得到动词,可以这样指定:

fromnltk.stem importWordNetLemmatizer

lemmatizer= WordNetLemmatizer()

print(lemmatizer.lemmatize('playing',pos="v"))

结果:

play

实际上,这也是一种很好的文本压缩方式,最终得到文本只有原先的50%到60%。

结果还可以是动词(v)、名词(n)、形容词(a)或副词(r):

fromnltk.stem importWordNetLemmatizer

lemmatizer= WordNetLemmatizer()

print(lemmatizer.lemmatize('playing',pos="v"))

print(lemmatizer.lemmatize('playing',pos="n"))

print(lemmatizer.lemmatize('playing',pos="a"))

print(lemmatizer.lemmatize('playing',pos="r"))

输出:

play

playing

playing

playing

词干和变体的区别

通过下面例子来观察:

fromnltk.stem importWordNetLemmatizer

fromnltk.stem importPorterStemmer

stemmer= PorterStemmer()

lemmatizer= WordNetLemmatizer()

print(stemmer.stem('stones'))

print(stemmer.stem('speaking'))

print(stemmer.stem('bedroom'))

print(stemmer.stem('jokes'))

print(stemmer.stem('lisa'))

print(stemmer.stem('purple'))

print('----------------------')

print(lemmatizer.lemmatize('stones'))

print(lemmatizer.lemmatize('speaking'))

print(lemmatizer.lemmatize('bedroom'))

print(lemmatizer.lemmatize('jokes'))

print(lemmatizer.lemmatize('lisa'))

print(lemmatizer.lemmatize('purple'))

输出:

stone

speak

bedroom

joke

lisa

purpl

---------------------

stone

speaking

bedroom

joke

lisa

purple

词干提取不会考虑语境,这也是为什么词干提取比变体还原快且准确度低的原因。

个人认为,变体还原比词干提取更好。单词变体还原返回一个真实的单词,即使它不是同一个单词,也是同义词,但至少它是一个真实存在的单词。

如果你只关心速度,不在意准确度,这时你可以选用词干提取。

在此NLP教程中讨论的所有步骤都只是文本预处理。在以后的文章中,将会使用Python NLTK来实现文本分析。

有需要教程的可以私我 756576218

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/433646.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

asterisk1.8 拨号方案 mysql存储(动态)

1. 在asterisk库中创建下表 DROP TABLE IF EXISTS extensions; CREATE TABLE extensions ( id int(11) NOT NULL auto_increment, context varchar(20) NOT NULL default , exten varchar(20) NOT NULL default , priority tinyint(4) NOT NULL default 0, …

执行异常ORA-00918: column ambiguously defined

oracle查询报错信息:执行异常ORA-00918: column ambiguously defined 该错误信息意为有一列定义模糊,不知道是哪张表的。 通常在字段名前面加上前缀就可以解决。比如column改成a.column 在使用其他方案提供的查询工具时,外围可能包裹了类似se…

cesium 隐藏entity_cesium entity创建各类实体

html>创建实体import url(../Build/Cesium/Widgets/widgets.css);html, body, #cesiumContainer {width: 100%; height: 100%; margin: 0; padding: 0; overflow: hidden;}.cesium-viewer .cesium-widget-credits{ display:none }var myurl "http://mt1.google.cn/vt/…

python安装后cmd找不到_关于Python3.6环境中,virtualenv找不到命令的解决方法

今天收到一个网友的提问,说是,已经安装好了,Python3.6,系统环境变量也检查过,没有问题,在系统CMD命令行窗口,输入python可以返回当前安装的python环境的版本号,如下图python3.6 也测试了pip安装程序,也是正常的,然后用pip install virtualenv 安装虚拟环境,整个过程也没有报错,…

Mybatis占位符问题—ReflectionException: There is no getter for property named xxx

使用${}占位符时(PS:一般都使用#{},不建议使用${}),发现xml文件中的SQL语句使用了$后会报错:具体情况如下:解决方案如下:在参数前加上Param("id")注解

kamailio,asteisk,realtime 实现负载均衡(集群)完整配置笔记

环境 负载均衡数据库服务器 Centos-5.4 kamailio-3.1.4 mysql-5.0.77-4.el5_6.6 IP:192.168.1.30 asterisk服务器1 Centos-5.4 asterisk-1.8 IP:192.168.1.31 asterisk服务器2 Centos-5.4 asterisk-1.8 IP:192.168.1.32 目的 1:假设一个简易的asterisk 集…

maven依赖 spark sql_window环境运行spark-xgboost 8.1踩到的坑

在window 环境下使用spark - xgboost会出现一些问题&#xff0c;这里记录一下。环境&#xff1a;window 7 spark 2.31 xgboost 8.1 idea maven一.依赖以及代码数据集下载地址UCI Machine Learning Repository: Iris Data Set​archive.ics.uci.edupom依赖<!-- https://m…

linux文件目录的操作

1、查看目录信息 opendir readdir stat,lstat,fstat 将目录按字母排序,alphasort,scandir 一般的用法是将alphasort作为scandir的参数&#xff0c;比如 struct dirent **namelist; scandir("/",&namelist,0,alphasort); 2、复习了一遍popen,pclose 3、明…

python书籍排行榜前十名_学习Python,这些书你看过几本?

Python是一门简单&#xff0c;强大的计算机编程语言。Python书也是种类繁多&#xff0c;对于初学者选择合适的学习书籍是很有必要的。 1、Python编程&#xff1a;从入门到实践 全书分两部分&#xff1a;第一部分介绍用Python编程所必须了解的基本概念&#xff1b;第二部分将理论…

Spring 5的新特性

Spring Framework 5.0 是在 2017 年发布的一个主要版本&#xff0c;它带来了许多改进和新特性&#xff0c;相比于 Spring Framework 4.x&#xff0c;主要的升级包括&#xff1a; 基于 Java 8 的基线&#xff1a; Spring 5 需要 Java 8 或更高版本&#xff0c;这使得框架得以利用…

MyBatis笔记——配置文件完成增删改查

l 完成品牌数据的增删改查操作 要完成的功能列表清单&#xff1a;□ 查询 查询所有数据 查看详情 条件查询□ 添加□ 修改 修改全部字段 修改动态字段□ 删除 删除一个 批量删除准备环境&#xff1a; 数据库表tb_branddrop table if exists tb_brand;CREATE TABLE tb_brand(--…

linux新的API signalfd、timerfd、eventfd使用说明——eventfd

好久没更新了&#xff0c;今天看一下第三种新的fd&#xff1a;eventfd类似于管道的概念&#xff0c;可以实现线程间的事件通知&#xff0c;所不同的是eventfd的缓冲区大小是sizeof(uint64_t)也就是8字节&#xff0c;它是一个64位的计数器&#xff0c;写入递增计数器&#xff0c…

【最近的学习安排】

打算先把手头上的资源先消化得差不多了再看新的东西吧&#xff0c;编程之美、编程珠玑、程序员面试100题、刀疤鸭数据结构面试题、大话数据结构、数据结构与算法分析&#xff08;C描述&#xff09;&#xff0c;JAVA核心技术卷I&#xff0c;C Primer&#xff08;着重看类相关的和…

bitnamigitlab_Bitnami Gitlab 修改端口

BITNAMI Gitlab是个界面和使用都非常友好的Version Control工具&#xff0c;但其端口限制的弊端&#xff0c;导致部署很不爽&#xff0c;作为使用者&#xff0c;把我遇到的问题与大家共享。强烈建议不要修改端口&#xff0c;经查看数据库数据&#xff0c;链接地址带端口和不带端…

python字符串排序_Python对字符串列表进行排序

在本教程中&#xff0c;我们将看到如何对字符串列表进行排序。我们将使用sort方法和sorted函数对给定的字符串列表进行排序。然后&#xff0c;我们将了解如何根据不同的条件&#xff08;例如长度&#xff0c;值等&#xff09;对字符串列表进行排序&#xff0c; 让我们看看如何使…

莫名其秒的Cannot load JDBC driver class 'com.mysql.jdbc.Driv

JAR包正常的情况下出现 服务器没有找到驱动jar 报错Cannot load JDBC driver class com.mysql.jdbc.Driv 原因是没有把MYSQL驱动放在TOMCAT的LIB目录下 解决方法:把JDBC驱动放到Tomcat的common/lib下&#xff0c;重新启动服务器 转载于:https://www.cnblogs.com/leiteng/archiv…

web——Tomcat Maven插件及Servlet入门

• IDEA中使用Tomcat-Tomcat Maven插件 ○ Pom.xml添加Tomcat插件<build><plugins><plugin><groupId>org.apache.tomcat.maven</groupId><artifactId>tomcat7-maven-plugin</artifactId><version>2.2</version><!--&…

外架小横杆外露长度规范要求_安全文明施工规范

分类规范内容内外架安全1、扫地杆离地0.2米&#xff0c;立杆间距1.5米&#xff0c;外大横杆上下间距1米&#xff0c;内大横杆上下间距1.8米&#xff0c;步距1.8米2、立杆着落点不得悬空&#xff0c;垫块面积&#xff1e;240240mm3、外架和支模架不得连接、固定在一起4、外架操作…

java 邮件模板_Spring Boot 2发送邮件手把手图文教程

点击上方 IT牧场 &#xff0c;选择 置顶或者星标技术干货每日送达&#xff01;本文基于&#xff1a;Spring Boot 2.1.3&#xff0c;理论支持Spring Boot 2.x所有版本。最近有童鞋问到笔者如何用Spring Boot发送邮件&#xff0c;故而整理下Spring Boot发送邮件的各种姿势。说到邮…

eventfd man

概要 #include<sys/eventfd.h>int eventfd(unsigned int initval, intflags);描述eventfd()创建一个“eventfd对象”&#xff0c;这个对象能被用户空间应用用作一个事件等待/响应机制&#xff0c;靠内核去响应用户空间应用事件。这个对象包含一个由内核保持的无符号64位整…