鍍金池/ 教程/ Python/ 一個簡單的百度貼吧的小爬蟲
一個簡單的百度貼吧的小爬蟲
亮劍!爬蟲框架小抓抓 Scrapy 閃亮登場!
Opener 與 Handler 的介紹和實例應(yīng)用
百度貼吧的網(wǎng)絡(luò)爬蟲(v0.4)源碼及解析
異常的處理和 HTTP 狀態(tài)碼的分類
利用 urllib2 通過指定的 URL 抓取網(wǎng)頁內(nèi)容
Python 中的正則表達(dá)式教程
爬蟲框架 Scrapy 的第一個爬蟲示例入門教程
抓取網(wǎng)頁的含義和 URL 基本構(gòu)成
urllib2 的使用細(xì)節(jié)與抓站技巧
一個爬蟲的誕生全過程(以山東大學(xué)績點運算為例)
糗事百科的網(wǎng)絡(luò)爬蟲(v0.3)源碼及解析(簡化更新)

一個簡單的百度貼吧的小爬蟲

# -*- coding: utf-8 -*-
#---------------------------------------
#   程序:百度貼吧爬蟲
#   版本:0.1
#   作者:why
#   日期:2013-05-14
#   語言:Python 2.7
#   操作:輸入帶分頁的地址,去掉最后面的數(shù)字,設(shè)置一下起始頁數(shù)和終點頁數(shù)。
#   功能:下載對應(yīng)頁碼內(nèi)的所有頁面并存儲為html文件。
#---------------------------------------

import string, urllib2

#定義百度函數(shù)
def baidu_tieba(url,begin_page,end_page):   
    for i in range(begin_page, end_page+1):
        sName = string.zfill(i,5) + '.html'#自動填充成六位的文件名
        print '正在下載第' + str(i) + '個網(wǎng)頁,并將其存儲為' + sName + '......'
        f = open(sName,'w+')
        m = urllib2.urlopen(url + str(i)).read()
        f.write(m)
        f.close()

#-------- 在這里輸入?yún)?shù) ------------------

# 這個是山東大學(xué)的百度貼吧中某一個帖子的地址
#bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
#iPostBegin = 1
#iPostEnd = 10

bdurl = str(raw_input(u'請輸入貼吧的地址,去掉pn=后面的數(shù)字:\n'))
begin_page = int(raw_input(u'請輸入開始的頁數(shù):\n'))
end_page = int(raw_input(u'請輸入終點的頁數(shù):\n'))
#-------- 在這里輸入?yún)?shù) ------------------

#調(diào)用
baidu_tieba(bdurl,begin_page,end_page)