目前看 google的爬虫很温和, 间隔时间长。估计是要分析内容决定下一个爬什么。 claudebot 非常粗暴,只要是链接就干。他们遵守我的规则 爬虫间隔时间是3秒。基本是3-5秒爬一次。

Reply to this note

Please Login to reply.

Discussion

No replies yet.