Go语言做爬虫状态码返回418的问题解决

 更新时间:2022-01-27 14:15:51   作者:佚名   我要评论(0)

目录背景原因分析代码部分背景
?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。



原因分析
?http

背景

?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。

在这里插入图片描述

原因分析

?http.Get(url)是不需要设置header属性的http请求,比较简单快捷,但状态码返回418,表明我们需要设置其header属性,那么我们可以使用http.NewRequest,在设置其header属性即可~

代码部分

func main7()  {
	client := &http.Client{}
	url := "https://movie.douban.com/top250?start=0&filter="
	reqest, err := http.NewRequest("GET", url, nil)
	//设置header属性
	reqest.Header.Add("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.130 Safari/537.36 OPR/66.0.3515.115")
	if err!=nil {
		fmt.Println(err)
		return
	}
	response, _ := client.Do(reqest)
	defer response.Body.Close()
	buf := make([]byte,4096)
	var result string
	for  {
		n,err:=response.Body.Read(buf)
		if n == 0 {
			fmt.Println("读取网页完成")
			break
		}
		if err!=nil && err!=io.EOF {
			fmt.Println("resp body err",err)
			return
		}
		result += string(buf[:n])
		//打印读取的网页
		fmt.Println(result)
	}
}

到此这篇关于Go语言做爬虫状态码返回418的问题解决的文章就介绍到这了,更多相关Go语言爬虫返回418内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
  • Go语言并发爬虫的具体实现
  • Go语言实现的web爬虫实例

相关文章

  • Go语言做爬虫状态码返回418的问题解决

    Go语言做爬虫状态码返回418的问题解决

    目录背景原因分析代码部分背景 ?在使用Go语言做爬虫时,使用http.Get(url)去获取网页内容,状态码返回404,Body体为空。 原因分析 ?http
    2022-01-27
  • golang实现数组分割的示例代码

    golang实现数组分割的示例代码

    需求:给定一个数组和一个正整数,要求把数组分割成多个正整数大小的数组,如果不够分,则最后一个数组分到剩余的所有元素。 示例1:
    2022-01-27
  • Go语言参数传递是传值还是传引用

    Go语言参数传递是传值还是传引用

    目录什么是传值(值传递)什么是传引用(引用传递)迷惑Mapchan类型和map、chan都不一样的slice小结对于了解一门语言来说,会关心我们在函数调
    2022-01-27
  • vscode搭建go开发环境案例详解

    vscode搭建go开发环境案例详解

    目录前言一、安装goLang二.配置环境变量三、vscode安装插件四.安装golang依赖五.新建go文件提示:文章写完后,目录可以自动生成,如何生成可
    2022-01-27
  • 浅谈Go1.18中的泛型编程

    浅谈Go1.18中的泛型编程

    目录前言以前的Go泛型泛型是什么Go的泛型泛型函数泛型类型类型集合和接口的差异总结前言 经过这几年的千呼万唤,简洁的Go语言终于在1.18版
    2022-01-27
  • golang强制类型转换和类型断言

    golang强制类型转换和类型断言

    目录1.强制类型转换2.类型断言1.强制类型转换 golang是强类型语言,但是和c++,Java不太一样的是,go中没有隐式类型转换,go中的类型转换只有
    2022-01-27
  • 使用go实现一个超级mini的消息队列的示例代码

    使用go实现一个超级mini的消息队列的示例代码

    目录前言目的设计协议 队列 broker 删除消息 生产者 消费者 启动 总结前言 趁着有空余时间,就想着撸一个mini的生产-消费消息队列
    2022-01-27
  • Go?语言的?:=的具体使用

    Go?语言的?:=的具体使用

    目录1. 单变量 :=2. 多变量 :=3. 小结:=? ?Go 语言中 = 和 := 有什么区别1. 单变量 := Go 语言中新增了一个特殊的运算符:=,这个运算符可
    2022-01-27
  • GO使用socket和channel实现简单控制台聊天室

    GO使用socket和channel实现简单控制台聊天室

    使用socket和channel,实现简单控制台聊天室 这里使用socket和channel,演示在GO中如何编写一个简单网络程序 功能分析 聊天室主要功能:用户
    2022-01-27
  • Go语言中io包核心接口示例详解

    Go语言中io包核心接口示例详解

    目录前言ReaderWriterCloserSeeker组合接口总结前言 IO 操作是我们在编程中不可避免会遇到的,例如读写文件,Go语言的 io 包中提供了相关的接
    2022-01-27

最新评论