asp.net – 如何阻止.net中的libwww-perl访问?
|
我正在使用在线工具测试我的网站,其中一个工具给了我这个警告:
我的网站是一个ASP.NET MVC 5网站,我只是添加这些行到我的“robots.txt”文件. User-agent: * Disallow: / User-Agent: bingbot Allow: / 但是,该工具仍然报告警告.问题是什么?我阻止所有机器人,只是设置bingbot允许. 解决方法除非您提供在线扫描工具的网址或名称,否则我只能猜测它在发送用户代理:libwww-perl时尝试抓取您的网页,如果您在robots.txt中阻止了这一点.其背景是,robots.txt包含良好行为的搜索引擎的规则,而不是恶意软件.从http://www.robotstxt.org/robotstxt.html: >机器人可以忽略您的/robots.txt.特别是恶意软件机器人 我假设“修复”此警告,如果HTTP头包含User-Agent:libwww-perl,则必须拒绝任何页面,图像或文件的所有请求.请参阅this question on configuring IIS以拒绝这些请求而不修改您的网站. 就个人而言,我不会否认这些要求,因为这不值得麻烦.在扫描工具中更改用户代理是很容易的,大多数已经允许模仿广泛使用的浏览器,因此安全增益将非常小.另一方面,可能存在一个不能使用的好的/合法的工具,因为它不会伪造其身份. (编辑:安卓应用网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
- asp.net – NLogConfigurationException – 从’System.Str
- ASP.NET MVC是一个大的企业项目的不好的选择吗?
- asp.net-mvc-3 – 如何判断我的动作是否被RenderAction调用
- 如何在服务器控件属性中使用ASP.NET %=标签?
- 如何在.NET MVC应用程序中包含社交媒体共享?
- asp.net-mvc-3 – 在MVC3中使用自定义的IPrincipal和IIdent
- asp.net – Visual Studio需要Windows 7中提升的权限
- asp.net-mvc – 为什么这个路由参数被添加到查询字符串中?
- asp.net-mvc – Ninject和连接字符串
- asp.net-mvc – 避免@html.checkboxfor的foreach
- ASP.NET MVC注定要取代Webforms吗?
- asp.net – URL重写从/default.aspx到/
- asp.net-mvc – ASP.NET MVC Beta支持列表中的Mo
- 加快ASP.NET中的构建时间
- UnobtrusiveJavaScriptEnabled键在.NET中的作用是
- asp.net-mvc – 抛出一个404像StackOverflow的,没
- asp.net-mvc – 如何为每个ActionLink指定默认区
- asp.net – 如何在网格视图列标题上添加鼠标悬停
- asp.net-mvc – 从referrer获取参数
- asp.net – 使用NuGet发布可执行文件和网站
