Go语言做爬虫状态码返回418的问题解决

 更新时间:2022-02-20 00:03:58   作者:佚名   我要评论(0)

目录背景原因分析代码部分背景
?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。



原因分析
?http

背景

?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。

在这里插入图片描述

原因分析

?http.Get(url)是不需要设置header属性的http请求,比较简单快捷,但状态码返回418,表明我们需要设置其header属性,那么我们可以使用http.NewRequest,在设置其header属性即可~

代码部分

func main7()  {
	client := &http.Client{}
	url := "https://movie.douban.com/top250?start=0&filter="
	reqest, err := http.NewRequest("GET", url, nil)
	//设置header属性
	reqest.Header.Add("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.130 Safari/537.36 OPR/66.0.3515.115")
	if err!=nil {
		fmt.Println(err)
		return
	}
	response, _ := client.Do(reqest)
	defer response.Body.Close()
	buf := make([]byte,4096)
	var result string
	for  {
		n,err:=response.Body.Read(buf)
		if n == 0 {
			fmt.Println("读取网页完成")
			break
		}
		if err!=nil && err!=io.EOF {
			fmt.Println("resp body err",err)
			return
		}
		result += string(buf[:n])
		//打印读取的网页
		fmt.Println(result)
	}
}

到此这篇关于Go语言做爬虫状态码返回418的问题解决的文章就介绍到这了,更多相关Go语言爬虫返回418内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
  • Go语言并发爬虫的具体实现
  • Go语言实现的web爬虫实例

相关文章

  • Go语言做爬虫状态码返回418的问题解决

    Go语言做爬虫状态码返回418的问题解决

    目录背景原因分析代码部分背景 ?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。 原因分析 ?http
    2022-02-20
  • Python对口红进行数据分析来选定情人节礼物

    Python对口红进行数据分析来选定情人节礼物

    目录前言:准备工作驱动安装模块使用与介绍流程解析完整代码效果展示结尾前言: 情人节、三八女神节、520、七夕节、圣诞节、元旦、生日、新年
    2022-02-15
  • Spring中的AOP操作你了解吗

    Spring中的AOP操作你了解吗

    目录一、AOP操作术语 1. 连接点2. 切入点3. 通知(增强)4. 切面二、AOP操作2.1 切入点表达式2.2 AOP操作(AspectJ 注解方式)2.3 相同切入点
    2022-02-15
  • Python 几行代码即可实现人脸识别

    Python 几行代码即可实现人脸识别

    摘要:一行代码实现人脸识别 首先你需要提供一个文件夹,里面是所有你希望系统认识的人的图片。其中每个人一张图片,图片以人的名字命名
    2022-02-15
  • 基于Java实现马踏棋盘游戏算法

    基于Java实现马踏棋盘游戏算法

    马踏棋盘很好实现,但有时运行起来特别慢,还可能出不来结果,最常用的就是深度优先遍历+回溯,相信大家都学过数据结构,对图的深度遍历都有
    2022-02-15
  • 如何在Netty中注解使用Service或者Mapper

    如何在Netty中注解使用Service或者Mapper

    目录Netty注解使用Service或MapperHandlerServer创建Server二次修订Netty handler注入service为空注入方式Netty注解使用Service或Mapper Spr
    2022-02-15
  • python使用socket实现TCP协议长连接框架

    python使用socket实现TCP协议长连接框架

    分析多了协议就会发现,很多的应用,特别是游戏类和IM类应用,它们的协议会使用长连接的方式,来保持客户端与服务器的联系,这些长连接,通常
    2022-02-15
  • .Net?Core微服务网关Ocelot集成Consul

    .Net?Core微服务网关Ocelot集成Consul

    有consul基础的都知道,consul可以发现新增的服务,剔除掉无效的服务,赋予应用自动伸缩的能力。而ocelot如果集成了consul,那ocelot也能拥有
    2022-02-09
  • java文件读写操作实例详解

    java文件读写操作实例详解

    目录File类File类的构造方法创建功能判断获取删除IO流字节流写数据小问题总结File类 它是文件和目录路径名的抽象表示。 文件和目录是可以通过
    2022-02-07
  • C++中标准线程库的基本使用介绍

    C++中标准线程库的基本使用介绍

    目录1.创建线程异步执行2.通过使用互斥锁防止线程冲突3.采用信号量控制线程的运行4.通过promise实现进程间通信总结Qt的封装程度比较高的线程
    2022-02-07

最新评论