亲爱的站长朋友们,网址目录为广大站长提供免费收录网站服务,免费收录任何网站。本目录的域名是: www.802203.com

新站提交
  • 网站:50193
  • 待审:312
  • 小程序:11171
  • 文章:11825
  • 会员:2

  最近院长收到一个非常典型的抓取优化例子,整理一下分享给各位,各位站长们谨记不要出现相同的情况:
  站点反馈:
  网站主体内容都是js生成,针对用户访问,没有做优化;但是网站特针对爬虫抓取做了优化,且将图片也直接做了base64转化;然而优化后发现内容却不被百度收录
  页面质量很好,还特意针对爬虫做了优化,为什么内容反而不收录了呢?
  工程师分析:
  1、网站针对爬虫爬取做的优化,直接将图片二进制内容放到了html中导致页面长度过长,网站页面长度达164k;
  2、 站点优化后将主体内容放于最后,图片却放于前面;
  3、爬虫抓取内容后,页面内容过长被截断,已抓取部分无法识别到主体内容,最终导致页面被认定为空短而不收录。
  工程师建议:
  1、不建议站点使用js生成主体内容,如js渲染出错,很可能导致页面内容读取错误,页面无法抓取
  2、 如站点针对爬虫爬取做优化,建议页面长度在128k之内,不要过长
  3、针对爬虫爬取做优化,请将主题内容放于前方,避免抓取截断造成的内容抓取不全

分享到:

  admin

注册时间:

网站:0 个   小程序:0 个  文章:0 篇

  • 50193

    网站

  • 11171

    小程序

  • 11825

    文章

  • 2

    会员

赶快注册账号,推广您的网站吧!
热门网站
最新入驻小程序

体质自测2019-07-26

测测你是什么体质

游戏王查卡器2019-07-26

游戏王卡牌信息查询工具一枚

邀约小助手2019-07-26

聚会、约饭、组织活动?邀约小助手

炉石传说小盒子2019-07-26

炉石传说天梯强势卡组展示与查询

拜年语2019-07-26

拜年语提供了大量的春节祝福,可以

查快递小助手2019-07-26

扫一扫,自动识别快递单。提供上百