抓取类
urllib(Python3)，这是Python自带的库，可以模拟浏览器的请求，获得Response用来解析，其中提供了丰富的请求手段，支持Cookies、Headers等各类参数，众多爬虫库基本上都是基于它构建的爬虫工具。建议学习了解一下，因为有些罕见的问题需要通过底层的方式解决。
requests，基于urllib，但是更方便易用爬虫工具。强烈推荐掌握。
解析类
re：正则表达式官方库，不仅仅是学习爬虫要使用，在其他字符串处理或者自然语言处理的过程中，这是绕不过去的一个库，强烈推荐掌握爬虫工具。
BeautifulSoup：方便易用，好上手，推荐掌握爬虫工具。通过选择器的方式选取页面元素，并获取对应的内容。
lxml：使用
lxml.etree
将字符串转换之后，我们可以使用XPath表达式来解析网页，终极推荐爬虫工具。XPath对于网页解析的支持非常强大，而且很容易上手。它本来是设计出来进行XML元素选择的，但是它同样支持HTML。
pyquery：另一个强大的解析库，感兴趣的可以学习下爬虫工具。
综合类
selenium：所见即所得式爬虫，综合了抓取和解析两种功能，一站式解决爬虫工具。很多动态网页不太容易通过requests、scrapy直接抓取，比如有些url后边带了加密的随机数，这些算法不太好破解，这种情况下，只能通过直接访问网址、模拟登陆等方式请求到页面源码，直接从网页元素中解析内容，这种情况下，Selenium就是更好的选择。不过Selenium更初设计出来，是用于测试的。强烈推荐。
scrapy：另一个爬虫神器，适合爬取大量页面，甚至对分布式爬虫提供了良好的支持爬虫工具。强烈推荐。
以上这些是我个人经常使用的库，但是还有很多其他的工具值得学习爬虫工具。比如Splash也支持动态网页的抓取；APPium可以帮助我们抓取App的内容；Charles可以帮助我们抓包，不管是移动端还是PC网页端，都有良好的支持；pyspider也是一个综合性的框架；MySQL(pymysql)、MongoDB(pymongo)，抓到了数据就要存储，数据库也是绕不过去的。
掌握了以上这些爬虫工具，基本上大部分的爬虫任务都难不倒你啦！
你也可以关注我的头条号，或者我的个人博客，里边会有一些爬虫类的分享爬虫工具。数洞:
加微信好友, 获取更多信息
复制微信号
声明
一、本站原创内容，其版权属于本网站所有。其他媒体、网站或个人转载使用时不得进行商业性的原版原式的转载，也不得歪曲和篡改本网站所发布的内容。如转载须注明文章来源。
二、本网站转载其它媒体作品的目的在于传递更多信息，并不代表本网站赞同其观点和对其真实性负责；如侵犯你的权益请告诉我们立即删除；其他媒体、网站或个人转载使用自负法律责任。
发表评论