问题:
云采集为什么比本地采集还慢?
回答:
云采集是靠拆分任务加速的,一个任务拆分成多个子任务,分到不同的云服务器上运行采集数据,再回收每个云服务器上的数据传到数学库中。
云采集慢的原因主要有以下几个:
① 任务没有被拆分
② 任务本地采集就很快,规则较简单(比如循环打开url,然后采集数据)
③ 同时运行多个云采集任务,旗舰版一般保证6到10个云节点
④ 规则的设置会影响采集的速度
云采集采集速度快必须满足两个条件:
① 当前运行云采集的任务拥有足够多的云节点资源。否则将一直等待其他任务的云节点空余出来。
② 当前云采集的任务还必须要能拆分。3类规则是可以拆分加速的:循环URL列表;循环固定元素列表,循环关键词列表。详情请查看云采集原理和规则加速设置教程 。