将网上爬取的数据放进数据库
来源:互联网 发布:java valueof方法 编辑:程序博客网 时间:2024/05/15 12:25
#encoding=utf-8import urllib2import refrom bs4 import BeautifulSoupimport sysreload(sys)sys.setdefaultencoding("utf8")html=urllib2.urlopen('http://movie.douban.com/top250?format=text').read()soup=BeautifulSoup(html,'html.parser')h1=soup.select('#content > h1')name=soup.select('.article > ol > li > .item > .info > .hd > a > span:nth-of-type(1)')comment=soup.select('.article > ol > li > .item > .info > .bd > .star > .rating_num')p=soup.select('.article > ol > li > .item > .info > .bd > .star > span')people=[]link=soup.select('.article > ol > li > .item > .info > .hd > a')for i in range(len(p)+1): if i%4==0: if i!=0: people.append(p[i-1])import MySQLdbconn=MySQLdb.connect( host='localhost', user='root', passwd="", port=3306, db='t', #数据库的名字 charset='utf8' #数据库默认编码方式,方便显示中文)cur=conn.cursor()#创建游标cur.execute("create table movie(id int primary key auto_increment,name varchar(100),rate float,comment varchar(100),link varchar(100))")n=[]f=[]pe=[]l=[]for i in range(len(name)): n.append(unicode(name[i].text).encode('utf-8')) f.append(unicode(comment[i].text).encode('utf-8')) pe.append(unicode(people[i].text).encode('utf-8')) l.append(unicode(link[i].get('href')).encode('utf-8'))for i in range(len(n)): cur.execute("insert into movie(name,rate,comment,link)values(%s,%s,%s,%s)",(n[i],f[i],pe[i],l[i]))cur.close()#关闭游标conn.commit()#提交就算在数据里真正插入数据conn.close()
如果在cmd里显示不了中文应如下步骤
1,net stop mysql
2,找到mysql下的my.ini(如果没有,复制my-medium.ini然后在修改名字即可)
3,在 my.ini里
[client]port=3306default-character-set=utf8[mysqld]port=3306character_set_server=utf8basedir=E:\mysql-5.6.24-win32datadir=E:\mysql-5.6.24-win32\data自己根据自己的目录来
4,添加环境变量--在path里加入
E:\mysql-5.6.24-win32;
千万要记得后面的;号,英文版的
5,在cmd里进入到bin目录下
cd E:\mysql-5.6.24-win32\bin
mysql install MySQL --defaults-file="E:\mysql-5.6.24-win32\my.ini"6,启动服务器
net start mysql
然后数据库里就不乱了
阅读全文
0 0
- 将网上爬取的数据放进数据库
- 网上取数据的一个例子
- 网上爬取股票数据实例
- js将选择的数据的值存放进数组中
- 将类放进HashMap的value里
- 解决jsp从数据库中读出来的数据放进textarea显示,格式不见了的问题
- 浅析如何将C#数据查询结果放进Combobox中
- 基于java的网络爬虫框架(实现京东数据的爬取,并将插入数据库)
- 基于java的网络爬虫框架(实现京东数据的爬取,并将插入数据库)
- 转载:基于java的网络爬虫框架(实现京东数据的爬取,并将插入数据库)
- 基于java的网络爬虫框架(实现京东数据的爬取,并将插入数据库)
- python爬虫爬取网上的照片
- 在Android使用Jsoup爬取网上数据
- 将数据取到内存,减少对数据库的访问次数,加快速度
- [IOS]将CGPoint、CGSize、CGRect等放进数组的方法
- 将viewController放进NavigationController的几种方式
- 将数据库中的数据取到memcache中
- 数据库里放进日期
- Maven 集成Tomcat插件常见错误
- [leetcode]16.3Sum Closest(Java实现)
- JAVA初窥:字符编码
- 合并两个排序链表
- VIM简单配置
- 将网上爬取的数据放进数据库
- 1. 不高兴的津津
- STL之list容器详解
- CommonJS、AMD、CMD、NodeJs、RequireJS到底有什么联系?
- Mysql安装流程
- C#对DataTable里数据排序的方法
- c++多继承多态
- 汉诺塔VII
- 实例探索Java模式之路——代理模式