爬虫就是自动提取网页的程序，如百度的蜘蛛等，要想让自己的网站更多页面被收录，首先就要让网页被爬虫抓取。
　　如果你的网站页面经常更新，爬虫就会更加频繁的访问页面，优质的内容更是爬虫喜欢抓取的目标，尤其是原创内容。
　　如果你做了许多努力仍没有被爬虫抓取，可以看一下工程师给出的两点建议：
　　1、不建议站点使用js生成主体内容，如过js渲染出错，很可能导致页面内容读取错误，页面则无法被爬虫抓取。
　　2、许多站点会针对爬虫做优化，建议页面长度在128k之内，不要过长。
　　SEO是用户们最有兴趣搜索的，也是最具潜在商业价值的服务手段，这是一个长期的工作，不能急于求成，在这个互联网竞争的大环境中，你比竞争对手多做一点点，有可能就会得到质的飞跃!