只要日志功能是齐全的,任何蜘蛛抓取页面都有记录,不然就是你的日志功能受到限制,或者是没有发现!
网站日志的功能是强大的,它不仅能够记录蜘蛛抓取的数据,所有普通用户浏览页面的记录日志里都有数据。所以,我们说数据分析的时候都会提到要去看网站日志。
那为什么有朋友提到蜘蛛抓取了页面却没有记录呢?原因之一是日志功能不全,有些服务商为了减轻服务器压力,就对网站日志做了功能上的限制,比如说只保留最近的100条记录,那之前的数据就看不到了。原因之二是不会分析,比如没有发现或者漏掉等。
其实这个提问也有些问题,如果网站日志里面没有记录,你又是从哪里知道蜘蛛抓取了页面的呢?蜘蛛是否抓取了某个页面,最准确的途径就是去查看网站日志,在日志完整的情况下如果都没有了,那蜘蛛肯定就没有抓取这个页面。
有些人朋友可能会使用第三方站长工具,这些工具的功能还是有限的,只能作为参考,在跟网站日志数据做对比的时候,存在偏差是正常的!
总之而言,蜘蛛抓取页面都在网站日志里留下记录,如果完整日志里没有看到记录,那就表示蜘蛛没有抓取。晴网互联提醒,大家还是要以网站日志为准备,不要把第三方工具当成标准!
在线解决和检测域名被墙、DNS污染,客服QQ:349591234 TG:@yumingidc。发布者:admin,转转请注明出处:https://www.qingidc.com/5354.html