爬虫入门,爬取豆瓣top250电影信息

import requests
import csv
import parsel
import time
f = open('豆瓣top250.csv',mode='a',encoding='utf-8',newline='')
csv_writer = csv.writer(f)
csv_writer.writerow(['电影名','导演','主演','年份','国家','类型','简介','评分','评分人数'])
for page in range(0,250,25):
    time.sleep(2)
    page_new = page/25+1
    print(f'正在爬取第{page_new}页内容')
    url = f'https://movie.douban.com/top250?start={page}&filter='
    headers = {
        'User-Agent':
            'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36'
        }
    response = requests.get(url=url,headers=headers)
    # print(response.text)
    selector = parsel.Selector(response.text)

    li_list = selector.css('.grid_view li')
    for li in li_list:
        title = li.css('.info .hd span.title:nth-child(1)::text').get()  # 获取电影的名字
        movie_info_list = li.css('.bd p:nth-child(1)::text').getall()  # 获取电影信息,getall获取的是列表数据
        introduce = li.css('.inq::text').get()  # 电影的简介
        rate = li.css('.rating_num::text').get()  # 电影评分
        comment_num = li.css('.star span:nth-child(4)::text').get().replace('人评价', '')  # 评论人数
        actor_list = movie_info_list[0].strip().split('   ')
        if len(actor_list) > 1:
            actor_1 = actor_list[0].replace('导演: ','') # 导演
            actor_2 = actor_list[1].replace('主演: ','') # 主演
            actor_2 = actor_2.replace('...','')
            movie_info = movie_info_list[1].strip().split(' / ')
            movie_year = movie_info[0]  # 年份
            movie_country = movie_info[1] # 国家
            movie_type = movie_info[2] # 类型
        else:
            actor_1 = actor_list[0]
            actor_2 = 'None'
        print(title,actor_1,actor_2,movie_year,movie_country,movie_type,introduce,rate,comment_num,sep='|')
        csv_writer.writerow([title,actor_1,actor_2,movie_year,movie_country,movie_type,introduce,rate,comment_num])

结果展现:

相关推荐

  1. 使用爬虫豆瓣电影Top250(方法二)

    2024-01-20 08:50:03       7 阅读
  2. 使用爬虫豆瓣电影Top250(方法一)

    2024-01-20 08:50:03       10 阅读
  3. 案例:豆瓣电影 Top250 的数据

    2024-01-20 08:50:03       26 阅读
  4. python scrapy 豆瓣电影top250教程2

    2024-01-20 08:50:03       12 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-20 08:50:03       16 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-20 08:50:03       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-20 08:50:03       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-20 08:50:03       18 阅读

热门阅读

  1. MySQL 深度分页

    2024-01-20 08:50:03       20 阅读
  2. 学习搭建Vuex环境总结

    2024-01-20 08:50:03       29 阅读
  3. js多种数组去重方法

    2024-01-20 08:50:03       31 阅读
  4. vue3使用自定义组件内方法

    2024-01-20 08:50:03       33 阅读
  5. MATLAB FFT ILA

    2024-01-20 08:50:03       28 阅读
  6. 二进制数据传输中的校验方法

    2024-01-20 08:50:03       30 阅读
  7. 模仿ProTable创建ProTable组件

    2024-01-20 08:50:03       33 阅读
  8. 3. Driver 源码

    2024-01-20 08:50:03       33 阅读
  9. Numpy极速入门学习

    2024-01-20 08:50:03       31 阅读
  10. vim常见命令

    2024-01-20 08:50:03       23 阅读