iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Python网络请求模块urllib与requests使用介绍
  • 195
分享到

Python网络请求模块urllib与requests使用介绍

2024-04-02 19:04:59 195人浏览 安东尼

Python 官方文档:入门教程 => 点击学习

摘要

目录urlib 介绍Requests 介绍无需参数直接请求单个页面带参数的 GET 请求发送 POST 请求python 网络请求模块 urllib 、requests Python

python 网络请求模块 urllib 、requests

Python 给人的印象是抓取网页非常方便,提供这种生产力的,主要依靠的就是 urllib、requests这两个模块。

urlib 介绍

  • urllib.request 提供了一个 urlopen 函数,来实现获取页面。支持不同的协议、基本验证、cookie、代理等特性。
  • urllib 有两个版本 urllib 以及 urllib2。
  • urllib2 能够接受 Request 对象,urllib 则只能接受 url。
  • urllib 提供了 urlencode 函数来对GET请求的参数进行转码,urllib2 没有对应函数。
  • urllib 抛出了 一个 URLError 和一个 HttpError 来处理客户端和服务端的异常情况。

Requests 介绍

Requests 是一个简单易用的,用Python编写的HTTP库。这个库让我们能够用简单的参数就完成HTTP请求,而不必像 urllib 一样自己指定参数。同时能够自动将响应转码为Unicode,而且具有丰富的错误处理功能。

  • International Domains and URLs
  • Keep-Alive & Connection Pooling
  • Sessions with Cookie Persistence
  • Browser-style SSL Verification
  • Basic/Digest Authentication
  • Elegant Key/Value Cookies
  • Automatic Decompression
  • Unicode Response Bodies
  • Multipart File Uploads
  • Connection Timeouts
  • .netrc support
  • List item
  • Python 2.6—3.4
  • Thread-safe

以下为一些示例代码,本文环境为 Python 3.6

无需参数直接请求单个页面

import urllib
from urllib.request import request
from urllib.urlopen import urlopen
# import urllib2
import requests
# 使用 urllib 方式获取
response = urllib.request.urlopen('http://www.baidu.com')
# read() 读取的是服务器的原始返回数据 decode() 后会进行转码
print(response.read().decode())
# 使用 requests 方式获取
# request 模块相比
resp = requests.get('http://www.baidu.com')
print(resp)
print(resp.text)

HTTP 是基于请求和响应的工作模式,urllib.request 提供了一个 Request 对象来代表请求,因此上面的代码也可以这么写

req = urllib.request.Request('http://www.baidu.com')
with urllib.request.urlopen(req) as response:
print(response.read())

Request对象可以增加header信息

req = urllib.request.Request('http://www.baidu.com')
req.add_header('User-Agent', 'Mozilla/6.0 (iPhone; CPU iPhone OS 8_0 like Mac OS X) AppleWEBKit/536.26 (Khtml, like Gecko) Version/8.0 Mobile/10A5376e Safari/8536.25')
with urllib.request.urlopen(req) as response:
print(response.read())

或者直接将 header 传入 Request 构建函数。

带参数的 GET 请求

带有参数的请求和上面的例子本质一样,可以事先拼出URL请求字符串,然后再进行请求。

本例使用了 腾讯 的股票api,可以传入不同的股票代码以及日期,查询对应股票在对应时间的价格、交易信息。

# 使用带参数的接口访问
tencent_api = "http://Qt.gtimg.cn/q=sh601939"
response = urllib.request.urlopen(tencent_api)
# read() 读取的是服务器的原始返回数据 decode() 后会进行转码
print(response.read())
resp = requests.get(tencent_api)
print(resp)
print(resp.text)

发送 POST 请求

urllib 没有单独区分 GET 和 POST 请求的函数,只是通过 Request 对象是否有 data 参数传入来判断。

import urllib.parse
import urllib.request
url = 'http://www.someserver.com/cgi-bin/reGISter.cgi'
values = {'name' : 'Michael Foord',
          'location' : 'Northampton',
          'language' : 'Python' }
data = urllib.parse.urlencode(values)
data = data.encode('ascii') # data should be bytes req = urllib.request.Request(url, data)
with urllib.request.urlopen(req) as response:
   the_page = response.read()

到此这篇关于Python网络请求模块urllib与requests使用介绍的文章就介绍到这了,更多相关Python urllib与requests内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python网络请求模块urllib与requests使用介绍

本文链接: https://www.lsjlt.com/news/120708.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Python网络请求模块urllib与requests使用介绍
    目录urlib 介绍Requests 介绍无需参数直接请求单个页面带参数的 GET 请求发送 POST 请求Python 网络请求模块 urllib 、requests Python...
    99+
    2024-04-02
  • python使用requests模块请求http接口
    目录 Python requests 模块requests常用参数及响应内容安装及导入requests模块HTTP 请求方法GET 请求POST 请求HTTP状态码postman生成pytho...
    99+
    2023-09-20
    python http
  • python爬虫之请求模块urllib的基本使用
    目录前言urllib的子模块HttpResponse常用方法与属性获取信息urlli.parse的使用(一般用于处理带中文的url)✅爬取baidu官网HTML源代码✅添加请求头信息...
    99+
    2024-04-02
  • Python中的socket网络模块介绍
    目录Socket服务端(server.py)客户端(client.py)socket中的一些常用方法Socket 对象(内建)方法Python Internet 模块前言: Pyth...
    99+
    2024-04-02
  • python网络请求模块有哪些
    python中的网络请求模有以下几种requests模块requests是一个简单易用的、用Python编写的HTTP库,使用requests可以通过简单的参数即可完成HTTP请求,且支持HTTP连接保持和连接池、使用cookie保持会话等...
    99+
    2024-04-02
  • Python hashlib模块与subprocess模块使用详细介绍
    目录1、什么是哈希hash2、hash的用途3、如何用4、subprocess模块1、什么是哈希hash hash一类算法,该算法接受传入的内容,经过运算得到一串hash值 hash...
    99+
    2024-04-02
  • Python使用Requests请求网页方式
    目录GET请求POST方法Session踩坑记要扩展总结Requests 继承了urllib2的所有特性。 Requests支持HTTP连接保持和连接池,支持使用cooki...
    99+
    2023-03-14
    Python使用Requests Requests请求网页 Python Requests请求网页
  • Python如何使用Requests请求网页
    本篇内容主要讲解“Python如何使用Requests请求网页”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Python如何使用Requests请求网页”吧!Requests 继承了u...
    99+
    2023-07-05
  • Python网络编程之HTTP客户端模块urllib与urllib3
    一、urllib 概述: urllib是Python中请求url连接的官方标准库,就是你安装了python,这个库就已经可以直接使用了,基本上涵盖了基础的网络请求功能。在Python...
    99+
    2024-04-02
  • Python模块介绍与使用详细讲解
    目录模块的相关概念 1. 什么是模块2. 使用模块的好处模块的使用1. 自定义模块a) 方法一: 导入模块:b) 方法二c) 导入自己的模块Python中的包 1...
    99+
    2024-04-02
  • python os模块和fnmatch模块的使用介绍
    目录一、先介绍一下os模块1、拆分路径的方法介绍2、构建文件路径的方法介绍3、获取文件属性的方法介绍4、判断文件的类型5、文件和目录操作6、修改文件属性和判断文件属性7、遍历目录树二...
    99+
    2024-04-02
  • Python 网页请求之requests库的使用详解
    目录1.requests库简介2.requests库方法介绍3.代码实例1.requests库简介 requests 是 Python 中比较常用的网页请求库,主要用来发送 HTTP...
    99+
    2024-04-02
  • python math模块使用方法介绍
    math常用方法 1.math.ceil()向上取整 import math print(math.ceil(56.1)) 57 2.math.floor()向下取整 import ...
    99+
    2024-04-02
  • Python中python-nmap模块的使用介绍
    目录一、python-nmap的安装二、python-nmap模块的使用1.portScanner()类环境: python 2.7.13 Windows和Linux默认都...
    99+
    2024-04-02
  • PythonJson与pickle模块序列化使用介绍
    用于序列化的两个模块 json,用于字符串 和 python数据类型间进行转换pickle,用于python特有的类型 和 python的数据类型间进行转换 Json模块提供了四个功...
    99+
    2024-04-02
  • Python的HTTP客户端模块urllib与urllib3怎么使用
    一、urllib概述:urllib是Python中请求url连接的官方标准库,就是你安装了python,这个库就已经可以直接使用了,基本上涵盖了基础的网络请求功能。在Python2中主要为urllib和urllib2,在Python3中整合...
    99+
    2023-05-20
    Python Http urllib
  • Python中各个模块的介绍和使用
    北京 | 高性能计算之GPU CUDA课程11月24-26日3天密集学习 快速带你晋级阅读全文> 作者,许胜利,Python开发工程师,任职于上海某财富管理有限公司。 在Python中有一个概念叫做模块(module),这个和...
    99+
    2023-01-31
    模块 Python
  • 怎么使用Python请求网络资源
    这篇文章主要介绍了怎么使用Python请求网络资源的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇怎么使用Python请求网络资源文章都会有所收获,下面我们一起来看看吧。使用 python 访问网络资源要访问网络...
    99+
    2023-07-06
  • 如何使用 Python 请求网络资源
    很长时间以来我们都在分享 Linux 系统相关的知识,所以可能会有朋友误以为我们只分享 Linux 操作相关的东西,其实不是啊,我们在平时开发过程中遇到的一些问题,感觉可以总结的,都有可能拿来分享。最近在写一个定时访问网络资源的程序,里面涉...
    99+
    2023-05-14
    Python 网络资源
  • 【100天精通python】Day42:python网络爬虫开发_HTTP请求库requests 常用语法与实战
    目录 1 HTTP协议 2  HTTP与HTTPS 3 HTTP请求过程  3.1 HTTP请求过程 3.2 GET请求与POST请求 3.3来源地址:https://blog.csdn.net/qq_35831906/article/de...
    99+
    2023-09-01
    python 爬虫 开发语言
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作