请选择 进入手机版 | 继续访问电脑版
Discuz! Board 门户 查看主题

宝塔网站如何屏蔽蜘蛛 禁止某些蜘蛛爬取

发布者: admin | 发布时间: 2024-12-16 17:05| 查看数: 433| 评论数: 0|帖子模式

有些网站不想做SEO,加上可能配置不好,各大搜索引擎蜘蛛的抓取反而给服务器造成了压力。
方案1:首先你得拥有一个宝塔防火墙,直接在防火墙里找到:User-Agent过滤,然后添加以下规则内容:
  1. (Baiduspider|baiduspider|sogou spider|sogou web|360spider|Bytespider|toutiao|Sosospider|YodaoBot|msnbot|Googlebot)
复制代码

方案2:在宝塔面板找到对应的网站,点击设置,点击配置文件,加入以下代码:
  1. if ($http_user_agent ~* "Baiduspider|baiduspider|sogou spider|sogouweb|360spider|Bytespider|toutiao|Sosospider|YodaoBot|msnbot|Googlebot") {
  2.       return 403; }
复制代码


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

最新评论