How to collect data
爬虫
Java
Python
urllib
requests
BeautifulSoup
反爬虫
信息校验型反爬虫
User-Agent反爬虫
Cookie反爬虫
签名验证反爬虫
WebSocket握手验证反爬虫
WebSocket消息校验反爬虫
WebSocket Ping反爬虫
动态渲染反爬虫
文本混淆反爬虫
- 图片伪装反爬虫
- CSS偏移反爬虫
- SVG映射反爬虫
- 字体反爬虫
- 文本混淆爬虫通用解决办法
特征识别反爬虫
- WebDriver识别
- 浏览器特征
- 爬虫特征
- 隐藏链接反爬虫
App反爬虫
- App手抓包
- APK文件反编译
- 代码混淆反爬虫
验证码
- 字符验证码
- 计算型验证码
- 滑动拼图验证码
- 文字点选验证码
自动化测试工具
Selenium
Appium
QMetry Automation Studio
TestComplete
RPA
商业化产品
艺赛旗
影刀
UIPath
开源产品
Robot Framework RPA
参考文献
- 火车头采集网站内页URL（图文）教程
- 技术研究 | 零编程数据爬取之：火车头数据爬取（一）
- 火车头/高铁采集器怎么使用，新手保姆级教程
- 学习seo网站运营的第31天-火车头采集的学习
- 2023年全球十大最佳自动化测试工具
- 推荐几款常用Web自动化测试神器
- 八千字直接带你学完《基于Python的Selenium4从入门到高级》全教程
- Selenium+dddocr轻松解决Web自动化验证码识别
- 巧用 selenium 解决验证码，模拟登陆某流行网站
- 【道高一尺魔高一丈】7种反爬虫策略及规避手段
- 10个好用到爆的"反爬虫"措施
- 五个优秀开源RPA框架
- Python 3反爬虫原理与绕过实践 / 韦世东著 / 人民邮电出版社 2020-01 / ISBN: 978711528735
