python中requests爬去网页内容出现乱码问题解决方法介绍-CDA数据分析师官网

热线电话：13121318867

python中requests爬去网页内容出现乱码问题解决方法介绍

2017-11-07

python中requests爬去网页内容出现乱码问题解决方法介绍

最近在学习 python爬虫，使用requests的时候遇到了不少的问题，比如说在requests中如何使用cookies进行登录验证，这可以查看这篇文章。这篇要解决的问题是如何避免在使用requests的时候出现乱码。
import requests
res=requests.get("https://www.baidu.com")
print res.content

以上就是使用requests进行简单的网页请求数据的方式。但是很容易出现乱码的问题。

我们可以通过在网页上右击查看源代码中查看编码方式：content="text/html;charset=utf-8"->

我们便可以知道网页的编码方式是utf8.由于中文的编码方式为gbk，所以我们需要将编码方式改变为gbk。

我查看了一些资料，说requests可以自动获取网页的编码方式的，并且通过res.encode输出一看是utf8，是的没错。但是输出来的内容中文存在乱码。有说可以直接指定获取到内容的encode属性即可，"res.encode='gbk'"，但我尝试了不可以的。

python内部的编码方式为utf8，也就是说python在处理其他字符串内容的时候首先要先将内容转化为utf8的编码方式，然后在解码为你想要的编码方式输出。

例如s=”中文” 为str类型的字符串编码方式为gb2312

需要 s.decode("gb2312")将gb2312编码方式的内容解码为Unicode编码

然后输出的时候要将s的编码方式规定为gbk->s.encode("gbk")

言归正传，我们获取到网页内容res后，通过res.content.decode("utf8","ignore").encode("gbk","ignore")就不会有乱码了。

这里所使用的ignore属性意思是忽略其中有一场的编码，仅显示有效的编码。

总结

以上就是本文关于python中requests爬去网页内容出现乱码问题解决方法的全部内容，希望对大家有所帮助。