https://www.bilibili.com/video/BV1LX4y1u7VA/
前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
基本开发环境
Python 3.6
Pycharm
相关模块的使用
import jiebaimport wordcloudimport timeimport requests
目标网页分析
今天就爬取青灯教育免费公开课的课程评价
网站地址:
https://ke..com/course/384363?taid=10654594091048299&tuin=8aa5eb27
如何获取课程评价?
打开开发者工具(F12或者鼠标右键点击检查) ,复制评价,在开发者工具当中进行搜索 。
这个接口数据有10条评价,一页评价也是10条评论 ,所以只需要请求这个链接,再通过json数据,字典取值的方式提取评价内容即可。
如何实现多页爬取
第一页评价数据接口参数
第二页评价数据接口参数
通过对比可得:page参数的变化 ,对应的是页码数。构建for循环即可实现多页爬取效果 。
爬虫实现代码
注意点:
headers 参数需要添加 referer 防盗链,不然获取不到数据
import timeimport requestsfor page in range(0, 23): time.sleep(1) url = 'https://ke..com/cgi-bin/comment_new/course_comment_list'headers = {'referer': 'https://ke..com/course/384363?taid=10654585501113707&tuin=8aa5eb27','user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'} params = {'cid': '384363','count': '10','page': page,'filter_rating': '0','bkn': '1905043087','r': '0.30477140651006174', } response = requests.get(url=url, params=params, headers=headers) html_data = response.json() result = html_data['result']['items']for i in result: comment = i['first_comment'] with open('评价.txt', mode='a', encoding='utf-8') as f: f.write(comment) f.write('\n')print(comment)
词云实现代码
import jiebaimport wordcloud# 读取文件内容f = open(r'D:\python\demo\腾讯课堂评价\评价.txt', encoding='utf-8') txt = f.read()# jieba 分词 分割词汇txt_list = jieba.lcut(txt) string = ' '.join(txt_list)# 词云图设置wc = wordcloud.WordCloud( width=1000, # 图片的宽height=700, # 图片的高background_color='white', # 图片背景颜色font_path='msyh.ttc', # 词云字体# mask=py, # 所使用的词云图片scale=15, stopwords={'老师'}, # 停用词# contour_width=5,# contour_color='red' # 轮廓颜色)# 给词云输入文字wc.generate(string)# 词云图保存图片地址wc.to_file(r'D:\python\demo\腾讯课堂评价\out.png')
文章来源于网络,如有侵权请联系站长QQ61910465删除
本文版权归QU快排Www.seoGurubLog.com 所有,如有转发请注明来出,竞价开户托管,seo优化请联系QQ▲61910465