行业动态

Python爬取网页数据。网页中的数据大多是非结构性数据。爬取网页非结构性文本数据的首要任务是去掉网页噪声。

网页噪声包括为了增强用户交互性而加入的各种脚本标记, 加强网页视觉效果的各种动画, 为了方便用户浏览而添加的导航链接、广告链接。这些信息跟文本分类没有实质性关系。

Python作为一种网页文本的爬虫程序开发语言, 可以完成很多复杂的网页文本提取。使用urlib2模块下的简单代码就能爬取目标网页的全部源代码, 获得整个网页的内容。使用BeautifulSoup模块自带的html.parse库, 去掉所爬网页源代码中的html标记, 即可提取网页标签中的文本内容。