python爬取网页的操作步骤

小编给大家分享一下python爬取网页的操作步骤，相信大部分人都还不怎么了解，因此分享这篇文章给大家参考一下，希望大家阅读完这篇文章后大有收获，下面让我们一起去了解一下吧！

之前在网上也写了不少关于爬虫爬取网页的代码，最近还是想把写的爬虫记录一下，方便大家使用吧！

代码一共分为4部分：

第一部分：找一个网站。

我这里还是找了一个比较简单的网站，就是大家都知道的https://movie.douban.com/top250?start=大家可以登录里面看一下。

这里大家可能会有一些库没有进行安装，先上图让大家安装完爬取网页所需要的库，其中我本次用到的库有：bs4，urllib，xlwt, re。

如图

这里选择file-setting-Project-然后选择左下角的加号，自行去安装自己所需要的文件就可以了。

下面的代码是爬取网页的源代码：

import urllib.requestfrom bs4 import BeautifulSoupimport xlwtimport redef main():    #   爬取网页    baseurl = 'Https://movie.douban.com/top250?start='    datalist = getData(baseurl)    savepath = '豆瓣电影Top250.xls'    #   保存数据    saveData(datalist,savepath)    # askURL("https://movie.douban.com/top250?start=1")#影片详情的规则findLink = re.compile(r'<a class="" href="(.*?)">')  #创建从正则表达式，表示规则findImgSrc = re.compile(r'<img.*src="(.*?)"', re.S) #让换行符匹配到字符中#影片的片名finTitle = re.compile(r'<span class="title">(.*)</span>')#影片的评分findReating = re.compile(r'<span class="rating_num" property="v:average">(.*)</span>')#找到评价人数findJudge = re.compile(r'<span>(\d*)人评价</span>')#找到概况findInq = re.compile(r'<span class="inq">(.*)</span>')#找到影片的相关内容findBb = re.compile(r'<p class="">(.*?)</p>', re.S)#re.S忽视换行符

第二部分：爬取网页。

def getData(baseurl):    datalist = []    for i in range(0, 10):        url = baseurl + str(i*25)        html = askURL(url)    #保存获取到的网页源码        #对网页进行解析        soup = BeautifulSoup(html, 'html.parser')        for item in soup.find_all('p', class_="item"):  #查找符合要求的字符串 形成列表            #print(item)  #测试查看电影信息            data = []            item = str(item)            link = re.findall(findLink, item)[0]  #re库用来查找指定的字符串            data.append(link)            imgSrc = re.findall(findImgSrc, item)[0]            data.append(imgSrc) #添加图片            titles = re.findall(finTitle, item)         #            if (len(titles) == 2):                ctitle = titles[0]      #添加中文名                data.append(ctitle)                otitle = titles[1].replace("/", "")   #replace("/", "")去掉无关的符号                data.append(otitle)     #添加英文名            else:                data.append(titles[0])                data.append(' ')#外国名字留空            rating = re.findall(findReating, item)[0] #添加评分            data.append(rating)            judgeNum = re.findall(findJudge,item) #评价人数            data.append(judgeNum)            inq = re.findall(findInq, item)  #添加概述            if len(inq) != 0:                inq = inq[0].replace(".", "")  #去掉句号                data.append(inq)            else:                data.append(" ")    #留空            bd = re.findall(findBb,item)[0]            bd = re.sub('<br(\s+)?/>(\s+)?',' ', bd)  #去掉br  后面这个bd表示对bd进行操作            bd = re.sub('/', ' ', bd)   #替换/            data.append(bd.strip())  #去掉前后的空格strip()            datalist.append(data)   #把处理好的一部电影放入datalist当中    return datalist

第三部分：得到一个指定的url信息。

#得到指定的一个url网页信息def askURL(url):    head = {        "User-Agent": "Mozilla/5.0 (linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWEBKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"}    request = urllib.request.Request(url,headers=head)    #  get请求不需要其他的的，而post请求需要 一个method方法    html = ""    try:        response = urllib.request.urlopen(request)        html = response.read().decode('utf-8')        # print(html)    except Exception as e:        if hasattr(e,'code'):            print(e.code)        if hasattr(e,'reason'):            print(e.reason)    return  html

第四部分：保存数据

#    3:保存数据def saveData(datalist,savepath):    book = xlwt.Workbook(encoding="utf-8", style_compression=0)    sheet = book.add_sheet('豆瓣电影Top250', cell_overwrite_ok=True)    col = ('电影详情链接', '图片链接', '影片中文名', '影片外国名', '评分', '评价数', '概况', '相关信息')    for i in range(0,8):        sheet.write(0,i,col[i])  #列名    for i in range(0,250):        print("第%d条"%i)        data = datalist[i]        for j in range(0,8):            sheet.write(i+1,j,data[j])    book.save(savepath) #保存

这里大家看一下代码，关于代码的标注我写的还是挺清楚的。

其中关于学习这个爬虫，还需要学习一些基本的正则表达式，当然Python基本的语法是不可少的希望对大家有帮助吧。

以上是“python爬取网页的操作步骤”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注编程网Python频道！