百度搜索引擎蜘蛛抓取过程中涉及的网络协议有哪些

阅读量:2033

每个网站的内容并不是完全需要让百度搜索引擎蜘蛛抓取的,为了更好的使得搜索引擎与网站达成一定的协议,在百度搜索引擎蜘蛛抓取的过程中双方建立了一定的规范,这些规范的内容以便于搜索引擎与网站之间的数据处理和对接,通常这种遵守的规范化的协议统称为网络协议。今天为朋友们分享一下百度搜索引擎蜘蛛抓取过程中涉及的网络协议有哪些,部分内容转载自百度站长工具平台。

1http协议和https协议

http协议又称为超文本传输协议,这也是互联网最为常见的一种网络协议,通过客户端和服务器端的请求和应答制定了一系列的标准。在这里客户端一般是指的最终的用户群,服务器端则是指的网站本身。也就是说用户通过互联网浏览器、搜索引擎蜘蛛等向网站指定端口发送出http请求之后,会返回对应的httpheader信息,也就是之前所分享的HTTP状态码,通过http状态码就可以看出网站页面的实际状况,比如是否链接成功,服务器类型、网站页面的最近更新时间等等。https协议实际是加密版http,一种更加安全的数据传输协议,很多金融类网站,商城类的网站都会制定这样的数据传输协议,比如淘宝、京东、支付宝等网站。

2UA属性

UA属性的全称是user-agent,其实UA属性是属于http协议当中的一种属性,主要的代表了终端的身份,向服务器端表明自己是谁,并且表面自己的目的性,使得服务器端可以根据不同身份的终端身份来做出不同的反馈结果。

3robots协议

robots协议之前在当中有专门的博文进行描述,感兴趣的朋友可以去浏览一下。robots协议是以robots.txt文档的形式展现出来的,这个文档也是搜索引擎蜘蛛在抓取网站之前第一个要抓取的网站文件,也就是说搜索引擎蜘蛛来网站抓取网站之前,首先要看一下robots.txt文件当中的内容来确定这个网站哪些内容是可以抓取的哪些内容是不可以抓取的,搜索引擎都是非常严格的按照robots协议对网站执行抓取协议的。

在了解了百度搜索引擎蜘蛛抓取过程中涉及的网络协议之后,对于自己网站的站内SEO优化操作的内容才会有针对性的提供给搜索引擎蜘蛛抓取,不但有利于搜索引擎蜘蛛很快捷方便的抓取主要的网站内容,也使得搜索引擎更加快捷的分辨出网站的主题,这也是集中网站权重的有效SEO优化操作技巧。

文章热搜

官方客服 028-61355202
友情链接

微信公众号

微信小程序

© 2020 dxm.so 《中华人民共和国增值电信业务经营许可证》编号: 川B2-20170249号 ICP证: 蜀ICP备14008752号 四川省成都市青羊区光华北三路98号光华中心D栋1609