为了编写一个功能强大的爬虫,我们需要使用一些Python库,如requests、BeautifulSoup、Scrapy等。以下是一个简单的例子,演示如何使用这些库来爬取网页上的图片。

import requests
from bs4 import BeautifulSoup
import os

# 定义要爬取的网页URL
url = 'http://example.com/'

# 发送GET请求
response = requests.get(url)

# 解析网页内容
soup = BeautifulSoup(response.text, 'html.parser')

# 查找所有的img标签
img_tags = soup.find_all('img')

# 定义保存图片的目录
dir_path = './images'
if not os.path.exists(dir_path):
    os.makedirs(dir_path)

# 遍历所有的img标签,下载图片并保存到本地
for img in img_tags:
    img_url = img.get('src')
    response = requests.get(img_url)
    image_name = img_url.split('/')[-1]
    with open(os.path.join(dir_path, image_name), 'wb') as f:
        f.write(response.content)

上述代码首先发送GET请求,获取网页内容。然后使用BeautifulSoup解析网页内容,查找所有的img标签。接下来,定义保存图片的目录,并遍历所有的img标签,下载图片并保存到本地。需要注意的是,在实际使用中,可能需要添加异常处理、并行下载等优化。

微信公众号:梦溪博客
最后修改:2023 年 10 月 24 日
如果觉得我的文章对你有用,请随意赞赏