基于Scrapy框架的分布式网络爬虫系统设计与实现

打开文本图片集

摘  要：针对传统单机网络爬虫抓取效率低、稳定性差、数据量少等问题，文章利用Scrapy框架结合Redis技术，对传统网络爬虫框架进行改进和优化，设计出了分布式非结构化的网络爬虫系统，使采集到的信息能以非结构化形式存储于MongoDB数据库内，实现对数据信息的实时、有效处理分析。经过实际应用测试，证明基于Scrapy框架的分布式非结构化网络爬虫系统相较于传统单机系统具有更高的效率。（剩余6810字）

网站仅支持在线阅读（不支持PDF下载），如需保存文章，可以选择【打印】保存。