GitHub repository: wangfanming/ScriptSpider
Primary language: Java
Description: 自主研发的一个java版本的分布式的通用爬虫，可以热插拔各个组件（提供默认的），自动切换代理，自动结构化数据与存储。使用redis，分布式调度等技术。