nodejs中request库使用HTTPS代理
正在尝试改用NodeJS编写爬虫,http请求库选择了request,用起来还是挺简单的。
现在有个需求,需要用Fiddler抓包我发出去的请求,以便和浏览器发出去的包进行对比。
因为需要在Fiddler中解密HTTPS报文,需要让node要么忽略证书安全,要么信任Fiddler的CA证书。
网上找了一圈,总结如下:
方法一:设置环境变量
- 设置环境变量NODE_TLS_REJECT_UNAUTHORIZED=0
- 即"不拒绝未认证的证书"
- 但是直接修改系统环境变量比较危险,因为会影响到所有nodejs的程序;比较稳妥的办法是脚本中调用
process.env["NODE_TLS_REJECT_UNAUTHORIZED"] = 0;
这样仅对本进程生效
方法二:每请求单独设置忽略证书安全
- 上述方法还是有一定风险,因为当前nodejs进程都受此全局设置影响
- 可以在request的options中添加
rejectUnauthorized: false
选项来针对单个请求忽略证书检查 当然也可以用request.defaults直接设置默认选项
const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", rejectUnauthorized: false, }) request.get("https://www.baidu.com").on("response", console.log)
方法三:使用Fiddler的CA证书
- 这个方法是最稳妥的,不会让你的子系统产生任何溢出影响
- 首先在Fiddler内把其根证书导出到桌面:Tools -> Options -> HTTPS -> Actions -> Export Root Certificate to Desktop
- 导出的文件是个.cer证书,经测试nodejs不直接支持,需要用openssl转换成PEM格式(我的openssl是cygwin装的)
openssl x509 -inform DER -in FiddlerRoot.cer -outform PEM -out fiddler.pem
- 把转换出来的fiddler.pem放到你的程序能访问的位置
使用
ca
选项来指定CA证书const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", ca: require("fs").readFileSync("path/to/fiddler.pem", {encoding: "utf-8"}), }) request.get("https://www.baidu.com").on("response", console.log)
另外:request当然也支持自签名证书,不过我暂时没这方面需求,就没继续摸索了
相关推荐
灵均兰草 2020-08-20
老高 2020-08-17
yfightfors 2020-08-16
jianghero 2020-07-28
83520298 2020-07-06
starzhangkiss 2020-06-22
TimeSky 2020-05-26
TimeSky 2020-05-11
jianghero 2020-05-05
yuleng测试赛 2020-05-03
jianghero 2020-05-03
jianghero 2020-05-01
OyangYujun 2020-04-25
yuleng测试赛 2020-04-22
MichelinMessi 2020-04-20
jianghero 2020-04-18
yuleng测试赛 2020-04-11
OyangYujun 2020-04-10