Skip to content

Latest commit

 

History

4 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Crawler

Python 爬虫学习与实践项目。

用于记录和练习 Python 爬虫相关技术,包括 RequestsBeautifulSoup、数据提取、文件保存等。

项目结构

Crawler/
├── demo1/
│   ├── crawler_demo1.py
│   └── posts/
│
├── demo2/
│   └── ...
│
└── README.md

Demos

Demo1 - 静态博客文章爬取

使用 Requests + BeautifulSoup 爬取静态博客文章,并将文章内容保存为 Markdown 文件。

主要练习:

  • HTTP 请求
  • BeautifulSoup HTML 解析
  • 标签与属性提取
  • URL 拼接
  • 文件读写
  • Markdown 文件生成
  • 文件名处理

后续会继续添加其他爬虫案例。

环境

  • Python 3
  • Requests
  • BeautifulSoup4

安装依赖

pip install requests beautifulsoup4

说明

本仓库主要用于个人学习和实践。

About

a simple web crawler program

Topics

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages