返回顶部
首页 > 资讯 > 后端开发 > Python >python简单构建可用IP代理池
  • 580
分享到

python简单构建可用IP代理池

2024-04-02 19:04:59 580人浏览 泡泡鱼

Python 官方文档:入门教程 => 点击学习

摘要

以下为简单示例: import requests import re import telnetlib url='Http://www.66ip.cn/nmtq.PHP?getnu

以下为简单示例:

import requests
import re
import telnetlib

url='Http://www.66ip.cn/nmtq.PHP?getnum=100000&isp=0&anonymoustype=4&start=&ports=&export=&ipaddress=&area=2&proxytype=0&api=66ip'
header = {'User-agent':'xxxxxxxxxxx','Connection':'close'}
page_text = requests.get(url=url,headers=header).text
#用于匹配ip:port的正则表达式
p = r'(?:((?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5]))\D+?(6[0-5]{2}[0-3][0-5]|[1-5]\d{4}|[1-9]\d{1,3}|[0-9]))'
#匹配出所有的ip与端口,放入列表
iplist = re.findall(p,page_text)
# 判断爬取的代理ip是否可用
for i in iplist:
    ip = i[0]+':'+i[1]+'\n'
    try:
        # 使用代理ip访问指定网站,能访问说明代理可用
        # requests.get('http://www.baidu.com', proxies={"http": ip})
        # 使用telnet测试代理是否可用
        telnetlib.Telnet(i[0], port=i[1], timeout=3)
    except:
        print('connect failed')
    else:
        print(ip)
        with open('ip.txt', 'a+', encoding='utf-8') as fp:
            fp.write(ip)

 到此这篇关于python构建简单可以代理池的文章就介绍到这了,更多相关Python构建简单代理池内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: python简单构建可用IP代理池

本文链接: https://lsjlt.com/news/138641.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • python简单构建可用IP代理池
    以下为简单示例: import requests import re import telnetlib url='http://www.66ip.cn/nmtq.phpgetnum...
    99+
    2024-04-02
  • 用python构建IP代理池详解
    目录概述提供免费代理的网站代码导包网站页面的urlip地址检测整理必要参数总代码总结概述 用爬虫时,大部分网站都有一定的反爬措施,有些网站会限制每个 IP 的访问速度或访问次数,超出...
    99+
    2024-04-02
  • python--IP代理池验证可用性
    背景:无论是自己爬虫爬取的IP代理还是购买的IP代理服务都会存在IP不稳定的情况。通过不断的校验来判断IP是否可用。#!/usr/bin/env python2.7 #coding:utf8 import os,time,sys #impo...
    99+
    2023-01-31
    可用性 python IP
  • Python爬虫实现搭建代理ip池
    目录前言一、User-Agent二、发送请求三、解析数据四、构建ip代理池,检测ip是否可用五、完整代码总结前言 在使用爬虫的时候,很多网站都有一定的反爬措施,甚至在爬取大量的数据或...
    99+
    2024-04-02
  • 怎么建立代理Ip池
    这篇文章主要介绍了怎么建立代理Ip池,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。说明1、首先获取代理的json信息。2、使用requests获取整个页面的text(字符串)...
    99+
    2023-06-20
  • Python构建私有代理IP库
    在Python写爬虫时候,经常会遇到爬虫与反爬虫的博弈,高强度、高频次地爬取网页信息,一般会给网站服务器带来巨大压力与性能损坏,故同一个IP不断爬取网页的信息,很快就可能被网站管理员封掉。故我们可以搭建自己的代理IP库,不停的更换自己的...
    99+
    2023-01-31
    Python IP
  • python爬虫ip代理池的搭建方法
    这篇文章主要讲解了“python爬虫ip代理池的搭建方法”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“python爬虫ip代理池的搭建方法”吧!1、选择合适的代理软件并进行ip过滤。总共有2...
    99+
    2023-06-20
  • 如何在python中使用proxybroker构建一个爬虫免费IP代理池
    今天就跟大家聊聊有关如何在python中使用proxybroker构建一个爬虫免费IP代理池,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。python可以做什么Python是一种编程...
    99+
    2023-06-06
  • 阿里云搭建代理ip池
    以下是POC的基本步骤: 创建一个云服务器实例,并将其分配给POC服务器。 配置POC服务器,使其能够接受来自您的客户端的请求,并根据请求创建、删除和分配代理IP。 配置云服务器实例,使其能够控制代理IP池,并确保它们在整个系统中保持一...
    99+
    2023-10-27
    阿里 ip
  • 使用阿里云IP组建代理池
    1. 了解IP组建代理池 IP组建代理池是一种通过收集和管理代理IP地址,以提供高质量、稳定的代理服务的技术。阿里云提供了一套强大的IP组建服务,可以帮助开发者快速搭建和管理代理池。 2. 创建IP组建 首先,你需要在阿里云控制台上创建一...
    99+
    2023-10-27
    阿里 IP
  • Python爬虫怎么实现搭建代理ip池
    这篇“Python爬虫怎么实现搭建代理ip池”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Python爬虫怎么实现搭建代理i...
    99+
    2023-07-02
  • 如何构建代理IP
    本篇内容介绍了“如何构建代理IP”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!1、购买一台拨号服务器,并建立一个动态IP池。购买拨号服务器建...
    99+
    2023-06-21
  • python3使用ip代理池
    # encoding:utf-8 import requests # 导入requests模块用于访问测试自己的ip import random 没有使用字典的原因是 因为字典中的键是唯一的 http 和https 只能存在一...
    99+
    2023-01-31
    ip
  • 怎么搭建爬虫专用代理ip池
    这篇文章主要讲解了“怎么搭建爬虫专用代理ip池”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“怎么搭建爬虫专用代理ip池”吧!1、爬取免费提供代理IP的网站,提取一定数量的IP,然后验证这些I...
    99+
    2023-06-20
  • 如何创建爬虫代理ip池
    本篇内容介绍了“如何创建爬虫代理ip池”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!爬虫抓取时,我们经常会遇到网站封锁IP地址的反爬虫策略。...
    99+
    2023-06-20
  • 云服务器搭建ip代理池
    云服务器搭建IP代理池的基本思路如下:下面是云服务器搭建IP代理池的基本步骤:需要注意的是,如果云服务器上已经有虚拟IP地址池,则需要重新配置。...
    99+
    2023-10-25
    服务器 ip
  • 反爬虫之搭建IP代理池
    反爬虫之搭建IP代理池 听说你又被封 ip 了,你要学会伪装好自己,这次说说伪装你的头部。可惜加了header请求头,加了cookie 还是被限制爬取了。这时就得祭出IP代理池!!! 下面就是requests使用ip代理例子 respo...
    99+
    2023-01-31
    爬虫 IP
  • Python搭建自己IP代理池的方法实现
    IP代理是什么: ip就是访问网页数据服务器位置信息,每一个主机或者网络都有一个自己IP信息 为什么要使用代理ip: 因为在向互联网发送请求中,网页端会识别客户端是真实用户还是爬虫程...
    99+
    2023-02-13
    Python搭建IP代理池 Python IP代理池
  • Python 爬虫IP代理池的实现
    Python 爬虫IP代理池的实现 很多时候,如果要多线程的爬取网页,或者是单纯的反爬,我们需要通过代理 IP来进行访问。下面看看一个基本的实现方法。 代理 IP ...
    99+
    2024-04-02
  • 如何使用Python构建简单的UI
    如何使用Python构建简单的UI,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。借助Streamlit框架,使用用户界面展示Python项目变得前所未有的简单,...
    99+
    2023-06-16
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作