Python技术栈

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

查看: 1372|回复: 0

[项目源码] 百度文库爬虫(爬取需要下载券的文档)

[复制链接]

9

主题

15

帖子

56

积分

注册会员

Rank: 2

积分
56
发表于 2018-9-7 15:00:48 | 显示全部楼层 |阅读模式
大家好,我是于归,我又不要脸的来了。。。。。
今天给大家带来的是一个百度文库的爬虫,话不多说,自己看图,源文件在最后贴出来
工作环境为  Python3.6   有的人运行以后会出现 ModuleNotFoundError: No module named 'requests' 的错误,那是因为你没有安装 requests的库,至于怎么安装百度一下吧。。。做起来简单,说起来麻烦,告辞告辞。。。。。。
***************************************************************************
如下图所示:发现一篇很帅的甲鱼饲养攻略,好开心,要下载下来仔细研究,定睛一看,我滴个乖乖,我没有下载券怎么办好呢?问题不大,趴下来不就OK了吗!


[Python] 纯文本查看 复制代码
    import requests
    import re
    import json
    import os

    session = requests.session()


    def fetch_url(url):
        return session.get(url).content.decode('gbk')


    def get_doc_id(url):
        return re.findall('view/(.*).html', url)[0]


    def parse_type(content):
        return re.findall(r"docType.*?\:.*?\'(.*?)\'\,", content)[0]


    def parse_title(content):
        return re.findall(r"title.*?\:.*?\'(.*?)\'\,", content)[0]


    def parse_doc(content):
        result = ''
        url_list = re.findall('(https.*?0.json.*?)\\\\x22}', content)
        url_list = [addr.replace("\\\\\\/", "/") for addr in url_list]
        for url in url_list[:-5]:
            content = fetch_url(url)
            y = 0
            txtlists = re.findall('"c":"(.*?)".*?"y":(.*?),', content)
            for item in txtlists:
                if not y == item[1]:
                    y = item[1]
                    n = '\n'
                else:
                    n = ''
                result += n
                result += item[0].encode('utf-8').decode('unicode_escape', 'ignore')
        return result


    def parse_txt(doc_id):
        content_url = 'https://wenku.baidu.com/api/doc/getdocinfo?callback=cb&doc_id=' + doc_id
        content = fetch_url(content_url)
        md5 = re.findall('"md5sum":"(.*?)"', content)[0]
        pn = re.findall('"totalPageNum":"(.*?)"', content)[0]
        rsign = re.findall('"rsign":"(.*?)"', content)[0]
        content_url = 'https://wkretype.bdimg.com/retype/text/' + doc_id + '?rn=' + pn + '&type=txt' + md5 + '&rsign=' + rsign
        content = json.loads(fetch_url(content_url))
        result = ''
        for item in content:
            for i in item['parags']:
                result += i['c'].replace('\\r', '\r').replace('\\n', '\n')
        return result


    def parse_other(doc_id):
        content_url = "https://wenku.baidu.com/browse/getbcsurl?doc_id=" + doc_id + "&pn=1&rn=99999&type=ppt"
        content = fetch_url(content_url)
        url_list = re.findall('{"zoom":"(.*?)","page"', content)
        url_list = [item.replace("\", '') for item in url_list]
        if not os.path.exists(doc_id):
            os.mkdir(doc_id)
        for index, url in enumerate(url_list):
            content = session.get(url).content
            path = os.path.join(doc_id, str(index) + '.jpg')
            with open(path, 'wb') as f:
                f.write(content)
        print("图片保存在" + doc_id + "文件夹")


    def save_file(filename, content):
        with open(filename, 'w', encoding='utf8') as f:
            f.write(content)
            print('已保存为:' + filename)


    def main():
        url = input('请输入要下载的文库URL地址_')
        content = fetch_url(url)
        doc_id = get_doc_id(url)
        type = parse_type(content)
        title = parse_title(content)
        if type == 'doc':
            result = parse_doc(content)
            save_file(title + '.txt', result)
        elif type == 'txt':
            result = parse_txt(doc_id)
            save_file(title + '.txt', result)
        else:
            parse_other(doc_id)


    if __name__ == "__main__":
        main()




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
Python 总 群
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


QQ|Archiver|手机版|小黑屋|Python.BBS ( 鲁ICP备18046958号 )

GMT+8, 2020-1-21 17:58 , Processed in 0.264994 second(s), 35 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表