主机论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 46|回复: 2

有無最安全的防止網站被網絡上所有爬蟲發現的辦法?

[复制链接]

402

主题

799

回帖

3352

积分

论坛元老

Rank: 8Rank: 8

积分
3352
发表于 2025-4-6 15:10:17 | 显示全部楼层 |阅读模式
本帖最后由 httpd 于 2025-4-6 15:12 编辑

我目前採用robots.txt+.htpasswd的辦法,直到有一天我在某搜索引擎site:發現居然被索引了HTTP驗證的字樣,正經的蜘蛛都這樣,不正規的不是和去他家客廳一樣簡單
回复

使用道具 举报

6

主题

635

回帖

1880

积分

金牌会员

Rank: 6Rank: 6

积分
1880
发表于 2025-4-6 15:33:16 | 显示全部楼层
robots.txt 靠的是自觉
回复

使用道具 举报

146

主题

787

回帖

2974

积分

金牌会员

Rank: 6Rank: 6

积分
2974
发表于 2025-4-6 16:08:51 | 显示全部楼层
加人机验证码
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|主机论坛

GMT+8, 2025-4-20 12:56 , Processed in 0.042925 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表