|
|
现在越来越多的网站把数据的交互过程写在 JS 代码里,也就是说如果你只单单看前端网页的源码,你是无法得到具体的数据,你只能看到一大堆调用 JS 的前端代码。所以对于这类的网站,我们需要进入到具体的 JS 源码,理清关键代码,从而进行破解获取到我们想要的数据。# Q6 y5 u0 ]0 q4 c) J' Q
1 JS 基础语法学习8 |6 V( B( y) g! C
你只要有点编程基础,学习过一门编程语言,JS 的学习还是相对轻松,一个星期左右的时间就可以把 JS 所有的基础内容,全部学习一遍。如果你没有编程基础的话,JS 基础的内容学习起来也不是非常难,最多一个月的时间也能全部学完。
0 W4 z) D/ A$ |' Y; p这里给大家推荐一个 JS 编程基础学习网站:1 f: c0 C3 b5 C) N0 H
https://www.runoob.com/js/js-tutorial.html
! ]+ E5 B; E& R( O: i; M4 B, F
: ^ R" W& f4 V& h
- I0 Y3 h4 T0 w! i
1 d0 o, e' f( ?$ D) Y2 前端 JS 破解原理# L6 a3 K' d& g$ y, u- c
普通的网站数据的显示都是在网站的源码中就可看到,这类的网站你只要发个 requests 的请求,服务器就会把带有数据的源码返回给你,你就可以通过一些解析库进行解析了。但对于 JS 进行数据加密传输的网站,它就不同,比如下面这个网站:+ ^ o. Y. i5 k1 L6 X1 ?
2 U# j% j5 P! Q1 w" m" T7 I 在控制面板可以看到获取到的数据是字母串,跟前端显示的数据完全不同,这就说明网站的数据是被加密了。新手在爬这类网站的时候,看到这里可能就会感到无奈。但大家不妨这样想,前端显示的数据是正常,所以后台一定会有某个地方对加密过的数据进行解密,而我们需要做的就是找到这个段解密的代码,按照它的逻辑进行传参就可以了。这也是我们破解 JS 代码的原理所在。3 J" U2 |& P# E( M& c+ `
# w% U: k Q& S5 _
3 工具的使用; C$ @( b3 m4 j+ f& t4 Y' z
讲完了原理之后,我先给大家介绍几个常用的工具。3.1 谷歌浏览器的开发者工具
( V; G& z- \3 `* o9 I 学爬虫一定要会使用谷歌浏览器的开发者工具,按谷歌浏览器按 F12 就可以弹出具体的页面。: u, \ F' }* M' I7 }
+ F7 e5 X* F6 W1 d
在开发者页面中你可以看到网页的源码「Elementes」、控制台「Console」、网页源码「Sources」、网络请求面板「Network」等等。详细的教程可以去看下官方的文档:
9 E) _' F. G7 zhttps://developers.google.com/web/tools/chrome-devtools/?hl=zh-cn2 h* {+ T; J6 z8 p4 x0 q
5 n( j: u( ~5 L8 i" I1 N
3.2 Nodejs 安装
" X" F; i3 I8 m: u z: E) N8 Z 因为涉及 JS 的调试验证,所以除了 Python 环境外,你还需要Nodejs( JS 的运行环境)和 WebStorm(IDE)。
) a; G3 E& e6 F! k- w1 s7 x
7 [3 L" s- S9 \ I( R9 [# g0 J Nodejs 去官网下载安装包后直接一键安装即可,安装完毕后去控制台运行 node -- version,如果出现版本号即代表安装成功。WebStorm 安装完后需要激活,激活教程网上很多,大家自行搜索。它是 Jet Brains 的产品(和 PyCharm 是同一家公司),所以使用方式与 PyCharm 很类似。2 C3 n9 I+ x" w& G1 F, J4 p$ y0 ^
5 d5 d( ?6 H& t8 @2 _1 d8 m3 [! w! j/ _4 实战练习5 o1 h! D m+ b* s4 Q2 i
接下来就带大家进行实战练习,这次我们爬取的对象是「企名片」网站:
. O' ?* @& H/ E' L( Ahttps://www.qimingpian.com/finosda/project/pinvestment) h$ |4 G4 o. ]' N3 p ?8 H, e
$ h9 r s% [) t$ q0 K7 C4.1 网站分析# H! }2 J. C( Z E" [" W" C2 R% |
首先打开链接,点击 F12 查看网络请求面板。在 pinvestment 响应里可以看到是一个 JS 调用的代码,并没有我们想要的 HTML 代码,显示网页是由 JS 动态生成。
, v( j% i: }' [0 h: I, ?' ]
# R5 Z8 u2 I- l5 G2 Q) L6 w
在点击 XHR,我们就可以看到一个 productListVip,这里面有个 encrypt_data 数据。参数内容像是一串 Base64 字符。既然网站对这个参数做了加密,说明它不想被爬取,所以可以做个假设:我们的目标数据就是 encrypt_data 参数里的内容。
" k6 K0 n& T M. g
+ M0 q6 D M* d) | 接下来我们就要破解 encrypt_data。
" [$ q6 F4 s# Y4.2 断点调试 JS 源码) Q4 j; c# d. O0 v/ P* w$ m% C) o
打开开发者工具,点击 Sources 我们在 js 文件夹中就可以找到网页的 JS 代码,在右侧我们就可以进行断点调试。0 N" y# U% L( U+ p6 l
4 W; \0 I- e. w1 p y2 a: c* o; K 在断点调试拦里有个 XHR/fetch Breakpoints 选择,而我们含有 encrypt_data 加密的参数正是一个 XHR 请求,所以我们点击+号,把 productlistVip 请求 url 添加进去。7 Z* o/ C, B. @. s# n2 \7 F
/ i' j9 E$ W5 H. N+ k
随后我们重新刷新网页,就可以一步步的调试找到可疑的地方。1 T, c- J4 [& U6 A+ `/ a
小技巧:3 c$ _7 e7 v9 e
1 花括号进行美化
! S! h; \& i" w, q0 S0 V1 S) w
/ G: C4 O: D2 N( H 点击左下角的花括号,可以把乱序的 JS 代码,变成有序的代码,看起来就非常的方便。- q+ N& E F9 C5 h! Q
7 P3 R6 \/ w& k6 e+ s5 E! R, Z. q
2 j) T+ K. @( |; j! r2 控制台输出执行结果
! C: j2 h( ~ s3 U' S 如果你找到比较可疑的点,你可以选中可疑的代码段,点击右键有个 Evaluate selected 选项,它就会在控制台输出执行的结果。
0 P9 Y8 [! {. I4 W$ z+ K: n! z# A/ V/ f! P
$ J- U2 K' f# I6 d! y
2 T, N' p8 Y% d$ U& w2 B
其实上图中执行 Object(d.a)(e.encrypt_data) 返回的内容就是我们需要的数据了。进到这个函数体里边,就能找到解密函数:其实上图中执行 Object(d.a)(e.encrypt_data) 返回的内容就是我们需要的数据了。进到这个函数体里边,就能找到解密函数:" ]& _+ q. s4 E4 k4 O( `9 v0 j
3 B$ u# V4 h$ N function o(t) 就是我们需要的解密函数,可以看到它先调用 s 函数,传入了四个参数,除了a.a.decode(t) 外其他三个都是写死的,最后用 JSON.parse 转为 json 对象。6 J8 o" }9 z$ i5 L( s
然而,找到解密函数后,我们要做的不是去分析它函数内部做了什么,虽然可以研究它的解密算法然后用 Python 重写,但这样太复杂且没必要。因为我们可以用 PyExecJS 这个库,直接用 Python 调用并执行 js 代码。
: k) {& u2 d. ~1 S2 e2 x 这时候,WebStorm 就派上用场了。新建一个 js 文件,把 function o里涉及的代码全部抠下来。然后执行 console.log 把执行结果打印出来。篇幅问题就只贴部分代码:) o$ a% h4 x/ k9 y; C
" d# v1 |2 U. G6 A9 `" y
K/ |0 M9 J- P# P. j
成功输出正确的数据,最后用 Python 去调用解密函数就行了。+ O; W/ Q+ i& {3 u$ z V, ^) [
) h7 E- L7 ?9 P |
|