一、写在前面

真的,为什么别人发游戏这么多人看,我发了两次了加起来才一百个。

算了算了,不整游戏了,反正你们也不爱看~

今天来试试把头条上扭腰上热门的那些妹子爬一爬,不知道我顶不顶得住~

二、准备工作 1、使用的环境 python 3.8pycharm 2021.2 专业版 2、要用的第三方模块 seleniumrequestsparsel 三、大致流程

鉴于你们不喜欢我啰嗦,但是流程呢,我还是要给你们写出来,所以我就单独把它列出来了。

1、网站分析(明确需求) 在视频网页源代码当中找到 embedurl 对应的链接;在链接当中找到视频播放地址,在元素面板当中;发现规律 embedurl上面的 groupby_id 其实就是当前视频链接上的id,下载视频的时候 就只需要 一个 id 就可以下载视频;(https://www.ixigua.com/embed?group_id=7029910152576926238) 2、代码实现过程 构建embedurl https://www.ixigua.com/embed?group_id=7029910152576926238使用selenium访问该链接提取视频链接地址拼接视频链接地址使用requests发送请求 并且获取视频二进制数据保存视频

如果大家在学习python的过程中不知道学习方向,该怎么学,没有好的系统的学习资料、没人交流解答等等,都可以私我,我都给大家准备好了。

四、代码展示分析

首先导入一下模块

import requestsfrom selenium import webdriver

进入浏览器设置

options = webdriver.chromeoptions()

1、构建embedurl https://www.ixigua.com/embed?group_id=7029910152576926238

group_id = input("请输入你要下载视频的id:")url = 'https://www.ixigua.com/embed?group_id=' + group_id

无头浏览器

options.add_argument("--headless")

加一个伪装

options.add_argument('user-agent="mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/96.0.4664.45 safari/537.36"')

2、使用selenium访问该链接 driver: 浏览器

driver = webdriver.chrome(executable_path="chromedriver.exe", options=options)

打开一个网页驱动配置: 代码操作浏览器的一个中间人

driver.get(url)

隐式等待: 最多等待五秒 如果一秒钟加载完了 继续执行

driver.implicitly_wait(5)

3、提取视频链接地址

info = driver.find_elements_by_xpath('//*[@id="player_default"]/xg-controls/xg-definition/ul/li[1]')video_url = info[0].get_attribute("url")

4、拼接视频链接地址

video_url = 'http:' + video_url

5、使用requests发送请求 并且获取视频二进制数据

video_data = requests.get(video_url).contentwith open('1.mp4', mode='wb') as f:    f.write(video_data)

所有代码

import requestsfrom selenium import webdriver# 进入浏览器设置options = webdriver.chromeoptions()# 1. 构建embedurl https://www.ixigua.com/embed?group_id=7029910152576926238group_id = input("请输入你要下载视频的id:")url = 'https://www.ixigua.com/embed?group_id=' + group_id# 无头浏览器options.add_argument("--headless")# 加一个伪装options.add_argument('user-agent="mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/96.0.4664.45 safari/537.36"')# 2. 使用selenium访问该链接# driver: 浏览器driver = webdriver.chrome(executable_path="chromedriver.exe", options=options)# 打开一个网页# 驱动配置: 代码操作浏览器的一个中间人driver.get(url)# 隐式等待: 最多等待五秒 如果一秒钟加载完了 继续执行driver.implicitly_wait(5)# 3. 提取视频链接地址info = driver.find_elements_by_xpath('//*[@id="player_default"]/xg-controls/xg-definition/ul/li[1]')video_url = info[0].get_attribute("url")# 4. 拼接视频链接地址video_url = 'http:' + video_url# 5. 使用requests发送请求 并且获取视频二进制数据video_data = requests.get(video_url).contentwith open('1.mp4', mode='wb') as f:    f.write(video_data)print("爬取成功!!!")#留了报错,看看大家够不够机智找出来

兄弟们看完觉得有帮助,记得点赞三连哇~

到此这篇关于python 超简洁且详细爬取西瓜视频案例的文章就介绍到这了,更多相关python 西瓜视频内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com!