免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2802 | 回复: 3
打印 上一主题 下一主题

遇到这个问题,该怎么解决呢。允许搜索引擎访问,限制web、手机浏览器访问 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2011-11-16 05:52 |只看该作者 |倒序浏览
手头在做一个项目,需要实现一个功能,web服务器是nginx。
具体要实现的功能是:
1.用户web、手机浏览器访问 www.xxx.com/f.php这个文件的时候,自动把用户引导到www.xxx.com/t/f.php这个页面,而不是让用户可以访问www.xxx.com/f.php页面。
这个我在nginx中用rewrite实现了
      if (-f $request_filename/f.php)
        {
        rewrite (.*) $1/t/f.php last;
        }
2.第二个问题就是我遇到的问题了。
要如何让搜索引擎可以访问到www.xxx.com/f.php这个页面,而不是去爬www.xxx.com/t/f.php页面。
user-agent这方面要怎么设置呢,还是要怎么解决呢。请高手们帮忙解决下。谢谢

论坛徽章:
1
处女座
日期:2014-01-21 13:20:51
2 [报告]
发表于 2011-11-16 07:25 |只看该作者
robots.txt

论坛徽章:
0
3 [报告]
发表于 2011-11-16 13:35 |只看该作者
1、robots.txt
2、记录信息:<?php
$spider=date("m-d H:i:s",$temp_time)."——".$IP.'——'.$_SERVER["PHP_SELF"]."——".$_SERVER["HTTP_USER_AGENT"].CHR(10);

$fh=fopen('spider.log',"at");
fwrite($fh,$spider);
fclose($fh);
?>
,过段时间后打开spider.log就可以找到规律操作了。
不过,貌似nginx规则比php处理的优先。所以你的第1条应该删了,直接在php文件里来判断转向。都在nginx规则上写,感觉还不如在php上处理。让nginx专注处理php比较好。

论坛徽章:
0
4 [报告]
发表于 2011-11-16 20:16 |只看该作者
3楼的是记录搜索引擎访问记录,还是没实现某页面只能让搜索引擎访问的功能。。
请问要如何让搜索引擎可以访问到www.xxx.com/f.php这个页面,而不是去爬www.xxx.com/t/f.php页面。
user-agent这方面要怎么设置呢,还是要怎么解决呢
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP