request模块基础—请求(爬虫基础)

1.请求方式:一般使用post请求get请求

import requests#导入requests
from fake_useragent import UserAgent
# 请求方法名称与hppt方法名称相同
# url = "http://httpbin.org/post"
# response = requests.post(url)
# print(response)

# url = "http://httpbin.org"
#创建一个字典
# username = input("请输入用户名:")
# password = input("请输入密码")
# payload = {
#     "username":username,
#     "password":password
# }
#get请求带参数,将这个字典传入参数
# response = requests.get(url,params=paload)
# response = requests.post(url,data=payload)

# headers = {
#     "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0"
# }
# response = requests.get(url,headers=headers)
# print(response)
# print(response.url)
# ua =UserAgent()
# print(ua.random)
pic_url = "https://p.ananas.chaoxing.com/star3/80_80c/b0f142576e7b1edd50d554beb901bf88.png"
try:
    response = requests.get(pic_url)
except:
    print("请求失败")
else:
    print(response.content)
    with open('pic.png','wb') as f:
        f.write(response.content)

2. 添加请求头

一般很多网站会反爬系统,我们需要添加请求头,让它以为我们是电脑客户端

我们需要先设置一个user_agent

红色标注必须有

headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0"
}
 response = requests.get(url,headers=headers)

3.伪造请求头(fake-useragent)

首先使用 pip install fake-useragent在终端安装或者在设置里安装

需要使用时导入模块

import requests #导入requests
from fake_useragent import UserAgent 
 ua =UserAgent()#实例化UserAgent
 print(ua.random)
#后面的random可随机产生浏览器,当然你对应输入相应浏览器时它就产生对应的浏览器

相关推荐

  1. Python爬虫-request模块

    2024-07-20 09:58:01       27 阅读
  2. 爬虫学习————request模块

    2024-07-20 09:58:01       25 阅读
  3. Python爬虫-requests模块

    2024-07-20 09:58:01       21 阅读
  4. 爬虫 - 基于requests进行二次开发

    2024-07-20 09:58:01       25 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-20 09:58:01       52 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-20 09:58:01       54 阅读
  3. 在Django里面运行非项目文件

    2024-07-20 09:58:01       45 阅读
  4. Python语言-面向对象

    2024-07-20 09:58:01       55 阅读

热门阅读

  1. 前端经验:使用sheetjs导出CSV文本为excel

    2024-07-20 09:58:01       16 阅读
  2. autohotkey自动化执行vim命令

    2024-07-20 09:58:01       20 阅读
  3. 开源虚拟加密盘VeraCrypt命令行使用方法

    2024-07-20 09:58:01       14 阅读
  4. DP 203 学习笔记

    2024-07-20 09:58:01       16 阅读
  5. python实现建立一个学生成绩管理系统

    2024-07-20 09:58:01       19 阅读
  6. redis是如何实现过期时间一到就删除key

    2024-07-20 09:58:01       20 阅读
  7. 从零开始!Jupyter Notebook的安装教程

    2024-07-20 09:58:01       16 阅读
  8. django命令

    2024-07-20 09:58:01       15 阅读
  9. 探索光影魔法:WebKit中的CSS文本阴影效果

    2024-07-20 09:58:01       14 阅读