簡單的抓取圖片的Python爬蟲

字號:


    代碼如下:
    # -*- coding: cp936 -*-
    import urllib2
    import urllib
    mmurl="http://xxxxxx.com/json/request_top_list.htm?type=0&page="
    i=0#第二頁有個人的頁面沒圖片,會出現(xiàn)IO錯誤
    while i<15:
            url=mmurl+str(i)
            #print url #打印出列表的url
            up=urllib2.urlopen(url)#打開頁面,存入句柄中
            cont=up.read()
            #print len(cont)#頁面的長度
            ahref='<a href="http'#篩選頁面內(nèi)網(wǎng)頁鏈接的關(guān)鍵字
            target="target"
            pa=cont.find(ahref)#找出網(wǎng)頁鏈接的頭部位置
            pt=cont.find(target,pa)#找出網(wǎng)頁鏈接的尾部位置
            for a in range(0,20):#如才能不把20硬編碼進(jìn)去?如何找到文件結(jié)尾?
                    urlx=cont[pa+len(ahref)-4:pt-2]#從頭部到尾部,將網(wǎng)頁鏈接存入變量
                    if len(urlx) < 60:#如果網(wǎng)頁鏈接長度適合【len()?。。?!】
                        urla=urlx     #那么就準(zhǔn)備將其打印出來
                        print urla    #這是想要的model個人URL
                        #########以下開始對model個人的URL進(jìn)行操作#########
                        mup=urllib2.urlopen(urla)#打開model個人的頁面,存入句柄中
                        mcont=mup.read()#對model頁面的句柄進(jìn)行讀出操作,存入mcont字符串
                        imgh="<img.jpg"
                        iph=mcont.find(imgh)#找出【圖片】鏈接的頭部位置
                        ipt=mcont.find(imgt,iph)#找出【圖片】鏈接的尾部位置
                        for b in range(0,10):#又是硬編碼····
                                mpic=mcont[iph:ipt+len(imgt)]#原始圖片鏈接,鏈接字符的噪聲太大
                                iph1=mpic.find("http")#對上面的鏈接再過濾一次
                                ipt1=mpic.find(imgt)  #同上
                                picx=mpic[iph1:ipt1+len(imgt)]
                                if len(picx)<150:#仍有一些URL是“http:ss.png><dfsdf>.jpg”(設(shè)為100竟然會誤傷)
                                        pica=picx #【是len(picx)<100而不是picx!!】不然會不顯示
                                        print pica
                                        ############################
                                        ###########開始下載pica這個圖片
                                        urllib.urlretrieve(pica,"pic\\tb"+str(i)+"x"+str(a)+"x"+str(b)+".jpg")                                  
                                        ###########   pica圖片下載完畢.(加上各循環(huán)體的數(shù)字,以免名字重復(fù))
                                        ############################
                                iph=mcont.find(imgh,iph+len(imgh))#開始下一個循環(huán)
                                ipt=mcont.find(imgt,iph)
                        ############model個人URL內(nèi)的【圖片鏈接】提取完畢##########
                    pa=cont.find(ahref,pa+len(ahref))#將原來的頭部位作為起始點,繼續(xù)向后找下一個頭部
                    pt=cont.find(target,pa)#繼續(xù)找下一個尾部
            i+=1