当前位置:首页 > 每日看点

你认识哪些爬虫高手?

卡卷网1年前 (2024-12-01)每日看点256

自己一个人写了一个开源可视化爬虫软件,不知道算不算:

软件介绍

EasySpider是一款完全免费和开源的可视化爬虫软件,此软件可以让大家使用图形化界面,无代码可视化的设计和执行爬虫任务。只需要在网页上选择自己想要爬的内容并根据提示框操作即可完成爬虫设计和执行。同时软件还可以直接在命令行中通过传参的方式执行,从而可以很方便的嵌入到其他系统中。

V0.3.0版本新增的功能,包括元素截图,执行任意JS指令和系统命令,通过JS代码进行条件判断,OCR识别等等功能,想要的功能应有尽有,而且这些功能完全免费!!!

以下是示例界面:

你认识哪些爬虫高手?  第1张

你认识哪些爬虫高手?  第2张

你认识哪些爬虫高手?  第3张

相关链接

代码仓库

Github仓库地址,欢迎大家Star:

EasySpider

下载 EasySpider

进入Releases Page:github.com/NaiboWang/Ea 下载最新版本。

视频教程

bilibili.com/video/BV1t

文档

教程文档:github.com/NaiboWang/Ea,有英文可以暂时翻译一下,或看作者的硕士毕业论文:github.com/NaiboWang/Ea面向WEB应用的智能化服务封装系统设计与实现.pdf(主要看第三章和第五章)。

为什么要用EasySpider

相比其他可视化爬虫软件,EasySpider有以下优势:

1. 代码开源,因此可以进行二次开发。

2. 完全免费,不同于八爪鱼等软件的“免费”,EasySpider是一个无需登录,无限多开,无限机器部署的软件,不需要向作者本人支付一分钱。(当然,EasySpider受到专利保护,因此如果要商用,还请联系浙江大学天道专利事务所)。相比之下,其他软件的免费有诸多限制,具体可以看他们的价格详情页。

3. 安全,所有信息完全保存在用户本地,包括任务和采集的数据,不用担心数据泄露问题。

4. 跨平台:同时支持Windows,Linux和MacOS。

5. 速度快,通常一个爬虫任务只需要2-5分钟即可设计完成,采集速度也快,通常取决于具体机器环境。

6. 更加灵活,保存的浏览器配置信息更多,最重要的是可扩展,自由的安装各种插件,比如验证码识别插件。

7. 可以直接以命令行的方式执行,无限部署在任何想要部署的机器中。

8. 可以在任务流程中执行自定义的指令,包括JavaScript指令以及系统级别指令,这个是目前所有的可视化爬虫软件都做不到或者不愿意做的事情。

9. V0.3.0版本新增的功能,包括元素截图,执行任意JS指令和系统命令,OCR识别等等功能,想要的功能应有尽有,而且这些功能完全免费!!!

你认识哪些爬虫高手?  第4张

从需求导向来说,爬虫算是一项基本的需求,我们经常需要去爬一些网上的信息,比如对于科研工作者,爬取维基百科语料库进行训练是做NLP的同学经常做的事情;做社交网络分析的同学经常需要爬取Twitter和微博的信息;做推荐系统的同学会去爬购物网站的信息等等。市面上爬虫需求很多,这里就不在赘述了。有了EasySpider,不管大家之前会不会写爬虫,现在都可以不需要费心费力的写代码了。

相关荣誉和出版物

1、 作者本人通过此软件完成了浙江大学硕士论文并取得了硕士学位。

2、 获得了中国国家发明专利授权,作者是第一发明人。

3、 被CCF A顶级会议WWW 2023接收:dl.acm.org/doi/abs/10.1

4、 被微博81.6万粉丝互联网大V“爱可可-爱生活”转发和宣传: s.weibo.com/weibo?


你认识哪些爬虫高手?  第5张

楼主刚从美国参加WWW 2023回来,当时很多人对该软件感兴趣,下面是现场海报:

你认识哪些爬虫高手?  第6张

你认识哪些爬虫高手?  第7张

软件相关截图

这些图片来自我的硕士论文,这里只放图,具体这些图是做什么的请大家去看我的硕士论文,因为太长了:

github.com/NaiboWang/Ea面向WEB应用的智能化服务封装系统设计与实现.pdf

你认识哪些爬虫高手?  第8张

你认识哪些爬虫高手?  第9张

你认识哪些爬虫高手?  第10张

你认识哪些爬虫高手?  第11张

你认识哪些爬虫高手?  第3张

你认识哪些爬虫高手?  第13张

你认识哪些爬虫高手?  第14张

你认识哪些爬虫高手?  第15张

你认识哪些爬虫高手?  第16张

你认识哪些爬虫高手?  第17张

你认识哪些爬虫高手?  第18张

你认识哪些爬虫高手?  第19张

你认识哪些爬虫高手?  第20张

你认识哪些爬虫高手?  第21张

你认识哪些爬虫高手?  第22张

你认识哪些爬虫高手?  第23张

你认识哪些爬虫高手?  第24张

你认识哪些爬虫高手?  第25张

你认识哪些爬虫高手?  第26张

技术交流

由于EasySpider所有的算法设计,代码实现以及文档编写都是我一个人完成的,所以项目肯定不如一个团队一起写那么完善,而且很多功能我想开发也是心有余而力不足,所以肯定有很多可以改进的地方。由于代码全部公开,所以大家可以自行fork之后进行修改和添加新功能,也欢迎大家提PR使得这个软件的功能更加完善,共同构建一个美好的开源社区。 对于软件中涉及到的算法细节,大家可以看楼主的硕士毕业论文,里面写的很详细: github.com/NaiboWang/Ea面向WEB应用的智能化服务封装系统设计与实现.pdf 对于软件开发使用到的具体技术,如chrome扩展开发,websocket的使用,ElectronJS跨平台框架等等,大家可以在下载代码之后去研究下我的写法,我相信我的代码写法绝不是最好的,甚至当时由于想赶紧毕业所以只是想写一个能用的demo出来所以可以说有些粗糙,比如耦合性太强,不够模块化等等,因此可改进空间还有很多,欢迎大家提出意见和建议。 对于初学CS的学弟学妹来说,这个项目也算是不错的样例,因为从开发角度来说,这个项目包含了前端开发,后台开发,数据库操作,浏览器扩展开发等模块;从算法角度来说,这个项目包含了如深度优先,广度优先,数据结构,图,编译原理,递归等等算法技巧。大家如果想学习,也许可以从这个项目源码里学到一些知识。 最后,真心希望软件可以帮到大家!


扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2024/12/2302.html

分享给朋友:

相关文章

普通人一部手机用多久?

普通人一部手机用多久?

各位知友,你们的现在的手机用了多久了呢? 回看国外分析机构 TechInsights的报告,目前大家的用机周期是越来越长了,在国内,也达到了「40个月」,就是很多人至少三年半才会换一次手机。 仔细想想,不对呀,现在新机不是一直出吗?…

自媒体如何快速起步?

自媒体如何快速起步?

有两种经验,可供参考。 第一种是:现象级的爆火、爆款,这种情况捞到钱,实现财务自由的人并不多,但确实存在。只不过非要说清楚为什么这个账号可以火、可以短时间内赚到普通人一辈子赚不到的钱,他们自己也不一定能说清楚,因为赶上了风口(内外部情况)。…

在 Istio、Linkerd 和 Cilium 之间,哪种服务网格在性能上表现最佳?

在 Istio、Linkerd 和 Cilium 之间,哪种服务网格在性能上表现最佳?

在讨论服务网格之前,先理解一下为什么我们需要它。现代微服务架构意味着将应用拆分为多个小型、独立的服务,这些服务可以独立开发、部署和扩展。然而,服务之间的通信和管理成了巨大的挑战,例如如何保证安全的通信、负载均衡、监控与可观测性等。服务网格…

有哪些网站,一旦知道,你就离不开了?

有哪些网站,一旦知道,你就离不开了?

这六个网站,一旦用过,基本上是离不开了。都是我超爱的一些网站,基本上每天都用。 1 地图生成器 第一个,我要给大家推荐的是地图生成器。可以下载到各省,各市,各县的svg格式的地图素材。 这些素材导入PPT中都是可以编辑的。 可以单独更改颜色…

拼多多百亿补贴买手机电脑等数码产品靠谱吗?

大家很多人都在问pdd百亿补贴购机靠谱吗? 首先声明一下,我不是pdd的人,我只是一个普普通通混迹从事pc行业的数码玩家,我只是在评论区看到很多人都在无脑推百亿补贴,特地发一条怗子来说明一下这个东西。此怡不存在偏向引导,此站仅站在我个人角度…

什么样的网站能快速捕获你的心?

什么样的网站能快速捕获你的心?

大家好,我是程序员鱼皮。 大家如果平时使用网站或产品时出现了问题,一般都会去寻找 “联系客服” 的位置,从而获得人工的帮助。我们团队的面试刷题产品 - 面试鸭最近就遇到了这样一个难题:明明我们网站右下角就有联系客服按钮、而且我们每道面试题目…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。