主机论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
楼主: 唐王李世民

求助一个PHP Curl网页源码动态的问题

[复制链接]

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 16:42:35 | 显示全部楼层
kpxyyyy 发表于 2024-11-11 14:43
做爬虫要先分析网页的结构,而不是直接就写请求,现在的网站很多都是前后端分离动态加载。 ...

谢谢您的回复,技术菜,所以很多不懂
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 14:35:00 | 显示全部楼层
kof21411 发表于 2024-11-11 14:50
你可以直接curl他的接口api拿内容

它的接口现在改了好像,找不到vid了
回复

使用道具 举报

1

主题

195

回帖

567

积分

高级会员

Rank: 4

积分
567
发表于 2024-11-11 16:25:25 | 显示全部楼层
imdong 发表于 2024-11-11 15:06
你要获取页面内容不需要输出响应头信息
把这段curl_setopt($ch, CURLOPT_HEADER, $header); 改成curl_setop ...

好的,谢谢您的回复
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 14:43:00 | 显示全部楼层
zhughe 发表于 2024-11-11 15:16
python + playwright 轻松搞定,php只能通过浏览器分析接口,直接抓接口

其实php也有querylist
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 16:33:02 | 显示全部楼层
imdong 发表于 2024-11-11 15:06
你要获取页面内容不需要输出响应头信息
把这段curl_setopt($ch, CURLOPT_HEADER, $header); 改成curl_setop ...

  看不到内容跳转了,但是一直在转圈圈了,代码没办法进入下一步
回复

使用道具 举报

0

主题

53

回帖

194

积分

注册会员

Rank: 2

积分
194
发表于 2024-11-11 14:50:00 | 显示全部楼层
kpxyyyy 发表于 2024-11-11 16:36
其实php也有querylist

需要额外安装模块吗?谢谢您了
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 16:35:24 | 显示全部楼层
本帖最后由 imdong 于 2024-11-11 21:27 编辑
唐王李世民 发表于 2024-11-11 16:43
看不到内容跳转了,但是一直在转圈圈了,代码没办法进入下一步


设置cookie
头信息下只需要设置UA,cookie 设置一个ttwid参数值随机数

https:   //  i.ibb  .co/1stn4fW/20241111211814.jpg (去掉空格)
回复

使用道具 举报

0

主题

1

回帖

4

积分

新手上路

Rank: 1

积分
4
发表于 2024-11-11 15:06:00 | 显示全部楼层
imdong 发表于 2024-11-11 21:16
设置cookie
头信息下只需要设置UA,cookie 设置一个ttwid参数值随机数

谢谢您的回复,我试一试
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 16:36:27 | 显示全部楼层
说实话,整贴下来也没看到你到底要取什么内容,取网页代码平常的请求就能拉,取数据爬人家接口就行了.。。。你这刚学爬虫就爬淘宝么?哪有新手村出来就打boss的。爬点简单的吧
回复

使用道具 举报

40

主题

520

回帖

1436

积分

金牌会员

Rank: 6Rank: 6

积分
1436
 楼主| 发表于 2024-11-11 15:16:00 | 显示全部楼层
kpxyyyy 发表于 2024-11-12 12:22
说实话,整贴下来也没看到你到底要取什么内容,取网页代码平常的请求就能拉,取数据爬人家接口就行了. ...

它的接口已经改变了,现在取不到接口数据,谢谢您了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|主机论坛

GMT+8, 2025-1-19 20:36 , Processed in 0.080273 second(s), 16 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表