MediaCrawler-开源小红书抖音微博爬虫工具

MediaCrawler-开源小红书抖音微博爬虫工具 - 电脑软件

网站介绍MediaCrawler是一个在线开源的小红书抖音微博爬虫工具,适配现在能抓取小红书、抖音、快手、B站、微博的影像、图像、评论、点赞、转发等信息。工具原理是利用playwright搭桥,保留登录成功后的上下文浏览器环境,通过执行JS表达式获取部分加密参数 通过采用此方式,免去了复现核心加密JS代码,逆向难度大大降低,采用要一定的技术知识。如何采用创建并激活 python 虚拟环境

进入项目根目录 cd MediaCrawler   # 创建虚拟环境 python -m venv venv   # macos & linux 激活虚拟环境 source venv/bin/activate   # windows 激活虚拟环境 venv\Scripts\activate部署依赖库

pip3 install -r requirements.txt部署 playwright浏览器驱动playwright install执行爬虫程序

默认不含开启评论爬取模式,有要请到配置资料中指定 # 从配置资料中读取关键词查找相关的帖子并爬去帖子信息与评论 python main.py --platform xhs --lt qrcode --type search   # 从配置资料中读取指定的帖子ID列表获取指定帖子的信息与评论信息 python main.py --platform xhs --lt qrcode --type detail   # 开启对应APP扫二维码登录    # 其他渠道爬虫采用示例, 执行下面的命令查看 python main.py --help数据保存

适配保存到关系型数据库(Mysql、PgSQL等)

适配保存到csv中(data/目录下)

适配保存到json中(data/目录下)

免责声明:本网站上的资源均来自互联网或网友投稿,含有部分诱惑内容,仅供19岁以上内部会员交流,如果您认为侵犯了您的权益,请联系我们,核实后会尽快删除!内容投诉
资源库 » MediaCrawler-开源小红书抖音微博爬虫工具

🔥 更多精彩 · 主播定制专区

本站还有海量主播定制私拍、独家福利内容持续更新,喜欢可进专区挑选 👇