本站所有内容仅限于本地断网调试与学习,如有侵权请邮件与我们联系处理!

网站首页 蜘蛛池 蜘蛛池教程 正文

SemrushBot是什么蜘蛛爬虫?

曹操 2021-05-24 蜘蛛池教程 242 ℃ 0 评论 307字 free

SemrushBot是SEMrush的蜘蛛爬虫。

SEMrush是一家老牌的提供搜索引擎优化数据的公司,是一个强大的、全面的在线营销竞争情报平台,其中包括 SEO、PPC、社交媒体和视频广告研究。

建议中文站屏蔽掉它的爬行,首先因为这个蜘蛛爬行并不会给网站带来流量,只会占用服务器资源,其次是这是已经数据分析公司的爬虫,它爬的数据会成为你竞争对手的分析利器。

如何屏蔽SemrushBot呢?

robots.txt文件中添加以下代码即可:

User-agent: SemrushBot
Disallow: /
User-agent: SemrushBot-SA
Disallow: /

Tags:蜘蛛爬虫

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

网站分类
***新留言
文章归档
标签列表
站点信息
  • 文章总数:942
  • 页面总数:1
  • 分类总数:44
  • 标签总数:249
  • 评论总数:35
  • 浏览总数:166176
嘿,欢迎咨询