网站日志如何分析

通过分析网站日志Log文件可以看到用户和搜索引擎访问网站的数据，这些数据可以分析出用户和搜索引擎对网站的喜好以及网站的情况。网站日志分析主要是分析蜘蛛爬虫的爬行轨迹。蜘蛛爬虫抓取和收录的过程中，搜索引擎会给特定权重网站分配相应的资源量。一个符合搜索引擎友好性的网站应该充分的利用这些资源，可以让蜘蛛爬虫快速、准确、全面的抓取有价值、用户又喜欢的内容，而不是浪费资源，访问没有价值的内容上。对于重要目录，需要通过内外调整增加权重以及抓取率，对于无效页面，可以在robots.txt中进行屏蔽。