广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Python Http发送请求怎么实现
  • 380
分享到

Python Http发送请求怎么实现

2023-07-02 06:07:37 380人浏览 薄情痞子

Python 官方文档:入门教程 => 点击学习

摘要

本篇内容介绍了“python Http发送请求怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!浅析requests在不借助其

本篇内容介绍了“python Http发送请求怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

浅析requests

在不借助其他第三方库的情况下,requests 只能发送同步请求。requests 是一个Python第三方库,处理URL资源特别方便,而且相对于urllib3来说封装了更多功能,并且使用步骤简单。

我们深入一下到requests api源码来看一下: 

Python Http发送请求怎么实现

 从图片来看,其实可以大概看出requests支持哪些功能 然后圈红的其实是最常用的一些功能,也就是可以设置请求方式,请求头,cookie,过期时间,请求接口验证,文件上传等等功能。

整理了日常大概常用的方,应该是下面这几种格式:

# get 请求requests.get(url, params)# post 请求requests.post(url, data)# 文件上传upload_files = {'file': open('report.xls', 'rb')}requests.post(url, file=upload_files)  # 设置headerheaders = {'User-Agent': 'Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWEBKit'}requests.post(url, headers=headers)# 设置cookiecookies = {'token': '12345', 'status': '摸鱼'}requests.post(url, cookies=cookies)

如果单纯请求一个接口,获取接口数据的话,上面的完全够用了,不需要额外的操作。

但是requests有时候挺多用在爬虫场景下,爬虫有的需要保持登录信息去爬取其他接口,那么单纯的去使用requests.get 或者 requests.post,这都是一次性的请求,是不太满足需求的。 对于登录成功,再去请求其他的接口,可能需要之前生成的cookie或者token,这时候,这些信息就需要进行保存。对于这种情况,可以使用requests.session,它可以自动处理cookies,做状态保持.

大概的使用步骤应该是这样子:

# 先实例化一个对象session = requests.session()# 给 requests.session() 对象设置cookie信息,这个看情况使用,具体情况具体分析啊cookies_dict = {}session.cookies = requests.utils.cookiejar_from_dict(cookies_dict)# 后面用法和直接使用requests一样了# get请求response = session.get(url)# post请求response = session.post(url, JSON=json_data)result = response.json()#获取登陆的所有cookies信息print(result.cookies.values())

通过上面这些大概步骤,对于信息状态保持是已经足够了,这时候再用这些保持的信息去爬取接口是没有多大问题的(按道理啊,经典案例的话可以去模拟爬取一下淘宝PC端,本文具体的就不介绍了。)

浅析aiohttp

在不借助其他第三方库的情况下,aiohttp只能发送异步请求

其实,人都是贪心的,在同步请求足够完成需求后,那么人就会去从其他方面去提升, 比如同样的接口,希望能更快的处理返回,减少消耗时间,不希望阻塞。

那么随着这种需要,那么异步请求也就出现了。目前支持异步请求的方式有 async/await+asyncio+requests 组合构成,也可以使用aiohttp.aiohttp是一个为Python提供异步HTTP客户端、服务端编程,基于asyncio的异步库。aiohttp 同样是可以设置请求方式,请求头,cookie,代理,上传文件等功能的

大概用代码来表示,应该是常见这些:

# post 请求payload = {        "data": "hello world"    }async with aiohttp.ClientSession() as session:async with session.post(url, json=payload) as resp:print(resp.status)# get请求# 创建使用sessionasync with aiohttp.ClientSession() as session:async with session.get(url) as resp:print(resp.status)res = await resp.text()return res# 上传文件files = {'file': open('report.xls', 'rb')}async with aiohttp.ClientSession() as sess:async with sess.post(url, data=files) as resp:print(resp.status)print(await resp.text())# 设置header, cookieheaders = {'User-Agent': 'your agent'}cookies= {'cookies_are': '摸鱼'}async with aiohttp.ClientSession(headers=headers, cookies=cookies) as session:async with session.get(url) as resp:print(resp.status)res = await resp.text()return res

当然异步的请求,多可以是对接口返回数据在其他地方没有太强的依赖,异步的作用更多是用于提高效率,节省同步等待时间。

浅析httpx

在不借助其他第三方库的情况下,httpx既能发送同步请求,又能发送异步请求

httpx是Python新一代的网络请求库,它包含以下特点:

  • 基于python3的功能齐全的http请求模块

  • 既能发送同步请求,也能发送异步请求

  • 支持HTTP/1.1和HTTP/2

  • 能够直接向WSGI应用程序或者ASGI应用程序发送请求

安装 httpx需要Python3.6+(使用异步请求需要Python3.8+)

httpx是Python新一代的网络请求库, 功能和requests基本都一致,但是requests在没有第三方库的支持下只能发同步请求, 但是httpx不仅可以发同步请求,还可以异步,这个是比requests要好的。因为和requests差不多,那么requests能支持设置的,那么httpx也同样可以支持

基本的使用方法:

data = {    'name': 'autofelix',    'age': 25}# get请求httpx.get(url,params=data)# post请求httpx.post(url, data=data)# 设置header,cookie,timeoutheaders = {'User-Agent': 'your agent'}cookies= {'cookies_are': '摸鱼'}httpx.get(url, headers=headers, cookies=cookies, timeout=10.0)# 使用client发送(同步)请求with httpx.Client() as client:   response = client.get(url)

异步操作, 使用async/await语句来进行异步操作,使用异步client比使用多线程发送请求更加高效,更能体现明显的性能优势

import asyncioimport httpxasync def main():    # 异步请求AsyncClient    async with httpx.AsyncClient() as client:        response = await client.get(url)        print(response)if __name__ == '__main__':    # python3.7+ 支持写法    # asyncio.run(main())    # python3.6及以下版本写法    loop = asyncio.get_event_loop()    result = loop.run_until_complete(asyncio.gather(main()))    loop.close()

大体看下,同步请求使用httpx.client(), 异步请求使用httpx.AsyncClient(), 然后其他的一些基本用法都大体相似。可以说,如果你对requests熟练,那么对于aiohttp以及httpx也是很快就能上手理解的。

“Python Http发送请求怎么实现”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注编程网网站,小编将为大家输出更多高质量的实用文章!

--结束END--

本文标题: Python Http发送请求怎么实现

本文链接: https://www.lsjlt.com/news/340024.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Python Http发送请求怎么实现
    本篇内容介绍了“Python Http发送请求怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!浅析requests在不借助其...
    99+
    2023-07-02
  • Java使用HttpUtils怎么实现发送HTTP请求
    本篇文章和大家了解一下Java使用HttpUtils怎么实现发送HTTP请求。有一定的参考价值,有需要的朋友可以参考一下,希望对大家有所帮助。目录第一部分:简单总结HTTP请求常用配置第二部分:使用JavaLib的HttpUtils第三部分...
    99+
    2023-07-06
  • PHP发送HTTP请求实现批量短信发送
    PHP是一种流行的网页编程语言,用于开发动态Web应用程序。与其他编程语言相比,PHP与HTTP请求的集成较好,使其成为发送批量短信的理想语言。在本文中,我们将介绍如何使用PHP发送HTTP请求来实现批量短信发送。假设我们有一个来自电信服务...
    99+
    2023-05-24
    Http请求 PHP 短信发送
  • 怎么用VBS实现发送带Cookie的HTTP请求
    这篇文章主要介绍怎么用VBS实现发送带Cookie的HTTP请求,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!为了方便测试,先写一个回显Cookie的简单的PHP程序: 代码如下:<php foreach($_...
    99+
    2023-06-08
  • vue如何实现发送websocket请求和http post请求
    这篇文章主要介绍vue如何实现发送websocket请求和http post请求,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!先给大家介绍下vue发送websocket请求和http...
    99+
    2022-10-19
  • JAVA中的HTTP请求怎么利用HttpClient实现发送
    JAVA中的HTTP请求怎么利用HttpClient实现发送?很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。HttpClient介绍HttpClient 不是一个...
    99+
    2023-05-31
    java httpclient http
  • 利用Python发送10万个http请求
    目录1.队列+多线程 2.线程池 3.协程 + aiohttp 4.grequests[1] 前言: 假如有一个文件,里面有 10 万个 url,需要对每个 url 发送 htt...
    99+
    2022-11-12
  • Python发送Http请求时,中文乱码
    解决方法: 先encode再quote。 原理: msg.encode('utf-8')是解决中文乱码问题。 quote():假如URL的 name 或者 value 值中有『&』、『%』或者『=』等符号,就会有问题。所以URL...
    99+
    2023-01-31
    乱码 中文 Python
  • python scrapy.Request怎么发送请求
    这篇文章主要讲解了“python scrapy.Request怎么发送请求”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“python scrapy.Request怎么发送请求”吧!说明使用s...
    99+
    2023-06-20
  • shell脚本发送http请求的实现示例
    简述:使用shell脚本发送http请求,解析请求获取token再次发起请求 系统:Ubuntu系统 工具:cURL(发送http请求),jq(解析json),没有需要安装 host="192.168.1.199" po...
    99+
    2023-04-28
    shell发送http请求 shell http发送请求
  • Python中怎么发送Get请求
    这篇文章将为大家详细讲解有关Python中怎么发送Get请求,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。一、Python 命名规范是英文字符、下划线__、数字三个组成。项目(工程)名称、文...
    99+
    2023-06-15
  • 怎么用Python爬虫搞定发送中文HTTP请求头
    本篇内容主要讲解“怎么用Python爬虫搞定发送中文HTTP请求头”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么用Python爬虫搞定发送中文HTTP请求头”吧!有时需要将HTTP请求头的值...
    99+
    2023-06-15
  • Delphi通过IdHTTP怎么发送Http请求到Java 后台
    这篇文章将为大家详细讲解有关Delphi通过IdHTTP怎么发送Http请求到Java 后台,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。##########################...
    99+
    2023-06-04
  • C# winform请求http怎么实现
    本篇内容主要讲解“C# winform请求http怎么实现”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“C# winform请求http怎么实现”吧!一:.Net中有两个类 ...
    99+
    2023-07-02
  • RestTemplate怎么实现发送带headers的GET请求
    这篇文章主要讲解了“RestTemplate怎么实现发送带headers的GET请求”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“RestTemplate怎么实现发送带headers的GET...
    99+
    2023-06-25
  • golang爬虫colly发送post请求怎么实现
    本文小编为大家详细介绍“golang爬虫colly发送post请求怎么实现”,内容详细,步骤清晰,细节处理妥当,希望这篇“golang爬虫colly发送post请求怎么实现”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知...
    99+
    2023-07-02
  • java怎么发送tcp请求
    Java可以使用Socket类来发送TCP请求。下面是一个简单的示例代码:```javaimport java.io.Buffere...
    99+
    2023-09-26
    java
  • HttpClient怎么发送Get请求
    HttpClient可以以多种方式发送GET请求,以下是其中的一种示例代码:```javaimport org.apache.htt...
    99+
    2023-08-24
    HttpClient Get
  • java怎么发送post请求
    在Java中发送POST请求,可以使用java.net包中的HttpURLConnection类。以下是一个简单的示例代码:```j...
    99+
    2023-08-20
    java
  • react怎么发送axios请求
    本教程操作环境:Windows10系统、react18.0.0版、Dell G3电脑。react怎么发送axios请求?React中使用axios发送请求的常用方法React中安装并引入axios依赖在React项目中使用axios请求,首...
    99+
    2023-05-14
    React
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作