采集行为上使用技术手段应该懂得克制反爬虫,一些容易对服务器和业务造成干扰甚至破坏的行为,容易违法

还有就是使用目的,就算你通过合法途径采集的数据,如果对数据没有正确的使用,同样会存在不合法的行为反爬虫。一种情况是公开收集的数据,但没有遵循之前告知的使用目的。比如有些网站上标明内容不得用于商业行为,还有未经授权不得转载的,些都是有法律明文保护,所以要注意使用。

更后反爬虫,结合实际情况,给几点建议吧

虽然你爬取的信息都是公开的反爬虫,也不涉及公民隐私,爬取的数据也不用于违法获利,只是自己弄着玩,但是如果你的爬虫太疯狂了,一分钟请求1万次,导致对方服务器应接不暇,不能处理正常业务了,对不起,你这种属于违法行为,这种爬虫等同于进行黑客攻击了,你让人家不能正常工作了,损害了对方的利益

其实这很好理解,你希望你自己的电话号,身份证号,家庭住址,工作单位,行踪轨迹这些隐私信息被别人用爬虫抓取么?当然不希望,别人抓了你的这些信息,你肯定想去报警对不对,让警察去抓那个坏蛋,ok,你不要去做那个坏蛋反爬虫。

正规的网站都会在根目录下放置 robots.txt反爬虫,这里就规定了哪些能爬,哪些不能爬,谁可以爬,比如知乎的robots.txt,人家希望搜索引擎来爬它,其他的,一概不接受

不过呢反爬虫,知乎并没有做特别严厉的反爬措施,这就是说,如果你偷偷的爬一点东西,不影响它的正常服务,它也懒得找你麻烦,但对于那种反爬特别严重的,例如淘宝,你更好别去爬,如果你真的利用你的高智商突破了淘宝的反爬措施,那么恭喜你,你已经违法了

比如你把大众点评的评论数据都爬下来了,然后自己搞了一个xx点评,这肯定不行,人家辛辛苦苦的积累的数据,你轻轻松松的弄下来,直接拿来主义,跟人家搞竞争,你不违法谁违法反爬虫。

既然是付费内容,说明这东西价值很高,付费才能看,你弄下来了,你想干啥?你私自传播,就对网站造成了潜在损失反爬虫。

你技术很牛逼反爬虫,能突破网站的反爬措施,你把这些代码发布到网上,比如github,你自己没做啥坏事,可是想做坏事的人利用了你的代码,入侵了网站,那么,这种情况下,你也是有责任的,这个听起来有点冤,但确实存在这样的风险,所以,更好还是不要这么干

微信号:956602803
加微信好友, 获取更多信息
复制微信号