首页 存档 技术 查看内容

百度云盘爬虫爬取网盘所有的分享文件 运行环境 操作

2018-3-30 13:00 |来自: 互联网 1150 0

摘要: 数据挖掘入门与实战 公众号: datadw 运行环境 MySQL Python 2.7 Mysql-python 关注并回复公众号datadw 关键词: 百度网盘 获取源码地址。 操作 创建数据库 创建名为pan的数据库,编码设为utf-8。然后导入sql/ ...



数据挖掘入门与实战 公众号: datadw


运行环境

  • MySQL

  • Python 2.7

  • Mysql-python



关注并回复公众号datadw 关键词: 百度网盘 获取源码地址。


操作

创建数据库

创建名为pan的数据库,编码设为utf-8。然后导入sql/pan.sql,完成表的创建。


设置连接数据库的账号密码

打开 bin/spider.py ,修改 DB_HOSTDB_PORTDB_USERDB_PASS


运行爬虫

如果你是第一次部署,需运行下面命令,完成做种

1

python bin/spider.py --seed-user

上面其实就是抓取百度云热门分享用户的相关信息,然后从他们开始入手爬取数据

然后运行

1

2

python bin/spider.py

此时爬虫已经开始工作了。 数据库中就能看到对应的信息了。


数据挖掘入门与实战

搜索添加微信公众号:datadw


教你机器学习,教你数据挖掘


长按图片,识别二维码,点关注



公众号: weic2c
据分析入门与实战

长按图片,识别二维码,点关注


声明:文章版权归原作者所有 部分文章转自互联网 如有侵权请联系 [邮箱地址] 删除

路过

雷人

握手

鲜花

鸡蛋

相关分类

返回顶部