如何在Python中设置随机的请求头(UserAgent)
发布时间:2023-12-27 04:54:54
在Python中设置随机的请求头(User-Agent)需要使用第三方库fake_useragent。
1. 安装fake_useragent库:
pip install fake_useragent
2. 导入相关库:
from fake_useragent import UserAgent import requests
3. 使用UserAgent类生成随机User-Agent:
user_agent = UserAgent() random_ua = user_agent.random
4. 将随机User-Agent添加到请求头:
headers = {
'User-Agent': random_ua
}
5. 发送请求并获取响应:
url = 'http://example.com' response = requests.get(url, headers=headers)
下面是一个完整的示例,演示如何设置随机的请求头(User-Agent):
from fake_useragent import UserAgent
import requests
user_agent = UserAgent()
random_ua = user_agent.random
headers = {
'User-Agent': random_ua
}
url = 'http://example.com'
response = requests.get(url, headers=headers)
print(response.text)
在上述示例中,首先导入了UserAgent类和requests库。然后,使用UserAgent类生成一个随机的User-Agent,并将其赋值给random_ua变量。接下来,将随机User-Agent添加到请求头headers中。最后,使用requests库发送GET请求,并将响应输出到控制台。
通过设置随机的请求头(User-Agent),可以模拟不同的浏览器、设备和操作系统,提高爬虫的隐蔽性,防止被网站封IP或限流。
