返回顶部
首页 > 资讯 > 后端开发 > Python >scrapy远程登录控制台的实现
  • 140
分享到

scrapy远程登录控制台的实现

scrapy远程登录控制台scrapy远程登录 2023-02-27 11:02:03 140人浏览 独家记忆

Python 官方文档:入门教程 => 点击学习

摘要

目录远程登录控制台如何访问telnet控制台telnet控制台中的可用变量telnet控制台使用示例暂停、恢复和停止报废发动机远程登录设置远程登录控制台 scrapy附带一个内置的t

远程登录控制台

scrapy附带一个内置的telnet控制台,用于检查和控制Scrapy运行过程。telnet控制台只是一个运行在scrappy进程内部的常规python shell,因此您可以从中做任何事情。

telnet控制台是一个 built-in Scrapy extension 它在默认情况下是启用的,但如果需要,您也可以禁用它。有关扩展本身的更多信息,请参阅 Telnet控制台扩展 。

警告

通过公共网络使用telnet控制台是不安全的,因为telnet不提供任何传输层安全性。拥有用户名/密码验证不会改变这一点。
预期用途是本地连接到正在运行的Scrapy Spider(Spider进程和Telnet客户端在同一台计算机上)或通过安全连接(VPN、ssh通道)进行连接。请避免在不安全的连接上使用telnet控制台,或使用 TELNETCONSOLE_ENABLED 选择权。

如何访问telnet控制台

telnet控制台侦听中定义的tcp端口 TELNETCONSOLE_PORT 设置,默认为 6023 . 要访问控制台,您需要键入:

telnet localhost 6023
Trying localhost...
Connected to localhost.
Escape character is '^]'.
Username:
PassWord:
>>>

默认用户名为 scrapy 密码是自动生成的。自动生成的密码可以在垃圾日志上看到,如下例所示:

2018-10-16 14:35:21 [scrapy.extensions.telnet] INFO: Telnet Password: 16f92501e8a59326
默认用户名和密码可以被设置覆盖 TELNETCONSOLE_USERNAME 和 TELNETCONSOLE_PASSWORD .

警告
用户名和密码仅提供有限的保护,因为telnet不使用安全传输-默认情况下,即使设置了用户名和密码,通信也不会加密。

您需要在windows和大多数linux发行版中默认安装的telnet程序。

telnet控制台中的可用变量

elnet控制台就像一个运行在scrappy进程内部的常规Python shell,所以您可以从中做任何事情,包括导入新模块等。

但是,telnet控制台附带一些为方便起见而定义的默认变量:

捷径描述
crawler残废的爬虫 (scrapy.crawler.Crawler 对象)
enginecrawler.engine属性
spider主动蜘蛛
slot发动机槽
extensions扩展管理器(crawler.extensions属性)
statsstats收集器(crawler.stats属性)
settingsScrapy设置对象(crawler.settings属性)
est打印发动机状态报告
prefs内存调试(请参见 调试内存泄漏)
p到的快捷方式 pprint.pprint()功能
hpy内存调试(请参见 调试内存泄漏)

telnet控制台使用示例

以下是使用telnet控制台可以执行的一些示例任务:

查看发动机状态
你可以使用 est() scrapy引擎使用telnet控制台快速显示其状态的方法:

elnet localhost 6023
>>> est()
Execution engine status

time()-engine.start_time                        : 8.62972998619
len(engine.downloader.active)                   : 16
engine.scraper.is_idle()                        : False
engine.spider.name                              : followall
engine.spider_is_idle()                         : False
engine.slot.closing                             : False
len(engine.slot.inprogress)                     : 16
len(engine.slot.scheduler.dqs or [])            : 0
len(engine.slot.scheduler.MQs)                  : 92
len(engine.scraper.slot.queue)                  : 0
len(engine.scraper.slot.active)                 : 0
engine.scraper.slot.active_size                 : 0
engine.scraper.slot.itemproc_size               : 0
engine.scraper.slot.needs_backout()             : False

暂停、恢复和停止报废发动机

暂停:

telnet localhost 6023
>>> engine.pause()
>>>

恢复:

telnet localhost 6023
>>> engine.unpause()
>>>

停止:

telnet localhost 6023
>>> engine.stop()
Connection closed by foreign host.

Telnet控制台信号

scrapy.extensions.telnet.update_telnet_vars(telnet_vars)
在telnet控制台打开之前发送。您可以连接到这个信号来添加、删除或更新telnet本地命名空间中可用的变量。为此,需要更新 telnet_vars 听写你的处理程序。

参数
telnet_vars (dict) – telnet变量的dict

远程登录设置

以下是控制telnet控制台行为的设置:

TELNETCONSOLE_PORT

违约: [6023, 6073]

用于telnet控制台的端口范围。如果设置为 None 或 0 ,使用动态分配的端口。

TELNETCONSOLE_HOST

违约: '127.0.0.1'

telnet控制台应该监听的接口

TELNETCONSOLE_USERNAME

违约: 'scrapy'

用于telnet控制台的用户名

TELNETCONSOLE_PASSWORD

违约: None

telnet控制台使用的密码,默认行为是让它自动生成。

到此这篇关于scrapy 远程登录控制台的实现的文章就介绍到这了,更多相关scrapy 远程登录控制台内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: scrapy远程登录控制台的实现

本文链接: https://lsjlt.com/news/197606.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • scrapy远程登录控制台的实现
    目录远程登录控制台如何访问telnet控制台telnet控制台中的可用变量telnet控制台使用示例暂停、恢复和停止报废发动机远程登录设置远程登录控制台 Scrapy附带一个内置的t...
    99+
    2023-02-27
    scrapy 远程登录控制台 scrapy 远程登录
  • scrapy远程登录控制台如何实现
    这篇文章主要讲解了“scrapy远程登录控制台如何实现”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“scrapy远程登录控制台如何实现”吧!远程登录控制台Scrapy附带一个内置的telne...
    99+
    2023-07-05
  • weblogic控制台登录很慢
    实际是JVM在Linux下的bug   他想调用一个随机函数   但取不到   暂时的解决办法是   1)较好的解决办法: 在Weblogic启动参数里添加 “-   D...
    99+
    2024-04-02
  • 云服务器控制台登录
    假设您使用的是Amazon Web Services(AWS)服务,以下是登录AWS控制台的步骤: 打开AWS控制台。 选择您要登录的账户,然后单击“Log”按钮。 输入您的用户名和密码,以及确认您正在使用的凭据(通常使用一个USB)。...
    99+
    2023-10-28
    控制台 服务器
  • git控制台怎么重新登录
    git控制台是一款非常常用的代码管理工具,它的登录过程相对简单,只需要输入正确的用户名和密码即可成功登录。但有时我们也会遇到一些问题,比如登录失败或者需要重新登录等问题。本文将介绍如何在git控制台中重新登录。一、登录失败的原因及解决方法当...
    99+
    2023-10-22
  • python scrapy实现模拟登录功能
    本篇内容介绍了“python scrapy实现模拟登录功能”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!1、requests模块。直接携带c...
    99+
    2023-06-20
  • mysql实现远程登录
    CentOS7上安装mysql后,想要实现mysql远程登录。主要解决二个问题:(1)为mysql用户授予远程登录权限(改表法或授权法);(2)防火墙开放3306端口。(一)授予登录权限mysql -u root -p 输入密码进...
    99+
    2014-12-25
    mysql实现远程登录
  • 云服务器vnc控制台无法登录
    如果您的云服务器vnc控制台无法登录,可能有以下几个原因: 安全原因:您的vnc服务器没有正确安装和使用vpn 证书。在尝试访问vnc服务器时,您需要验证您是否拥有vpn 证书,并检查是否存在其他用户访问过您的vnc服务器。 vnc服务...
    99+
    2023-10-26
    控制台 服务器 vnc
  • java控制台实现聊天程序
    本文实例为大家分享了java控制台实现聊天程序的具体代码,供大家参考,具体内容如下 发送端 package ip.chat; import java.io.BufferedRe...
    99+
    2024-04-02
  • SpringBoot结合JWT登录权限控制的实现
    目录一、准备LoginUser(存放登录用户信息) 和JwtUser二、准备JwtTokenUtils三、准备JWTAuthenticationFilter (验证登录)、JWTAu...
    99+
    2024-04-02
  • 腾讯云服务器控制台登录不上
    如果您的腾讯云服务器控制台登录不上,可能是因为您的账户密码输入错误、服务器配置问题或浏览器兼容性问题等因素导致的。 如果您在控制台上输入了账户密码,但是服务器却无法访问您的账户,则可能是因为您的服务器配置存在问题。 以下是一些可能的解决方...
    99+
    2023-10-26
    腾讯 不上 控制台
  • 腾讯云服务器控制台登录不了
    如果您在使用腾讯云服务器的过程中遇到登录困难的问题,可以尝试以下步骤来解决该问题: 尝试使用 QQ、微信等第三方社交账户登录 QQ 或微信。 如果您的 QQ 或微信是通过您的 App Store 账号登录的,尝试在 QQ 或微信“应用程...
    99+
    2023-10-26
    腾讯 控制台 服务器
  • 手机登录腾讯云服务器控制台
    如果您使用的是Windows操作系统的电脑或手机,可以在“开始”菜单中找到“运行”,然后双击打开它。在“运行”对话框中,输入以下命令并按回车(Enter): netsh app /run -R startup 这将在您的电脑上启动服务...
    99+
    2023-10-26
    腾讯 控制台 服务器
  • 亚马逊控制台登录服务器错误
    1、将具有SSH 访问权限的新用户账户添加到 Amazon EC2 Linux 实例 2、使用救援实例 3、为新用户账户创建密钥对,将新用户添加到 EC2 Linux 实例 以上三种方法可以有效解决亚马逊控制台登录服务器错误问题。...
    99+
    2023-10-27
    亚马逊 控制台 错误
  • 腾讯云服务器控制台登录失败
    一、为什么腾讯云服务器控制台登录失败 腾讯云服务器控制台登录失败的原因有很多,以下是一些可能的原因: 账号登录异常:当用户尝试登录腾讯云服务器控制台时,如果输入的账号和密码存在异常,则会导致控制台登录失败。 密码错误:当用户输入的账号和...
    99+
    2023-10-28
    腾讯 控制台 服务器
  • shiro并发人数登录控制的实现代码
    在某些项目中可能会遇到如每个账户同时只能有一个人登录或几个人同时登录,如果同时有多人登录:要么不让后者登录;要么踢出前者登录(强制退出)。比如spring security就直接提供了相应的功能;Shiro的话没有提供默认实现,不过可以很容...
    99+
    2023-05-31
    shiro 并发 人数
  • C++实现控制台版扫雷程序
    本文实例为大家分享了C++实现控制台版扫雷程序的具体代码,供大家参考,具体内容如下 测试平台: WIN7 工具: VC6.0 , VS2008都能编译得过。 花了两天时间写的,里面涉...
    99+
    2024-04-02
  • win10怎么实现远程控制
    在win10中实现远程控制的方法:1.右键“此电脑”选择“属性”;2.点击“远程设置”选项;3.勾选“允许远程协助连接这台计算机”;4.打开远程连接窗口;5.输入计算机名,填写用户名和密码;具体步骤如下:首先,在win10系统桌面中右键点击...
    99+
    2024-04-02
  • Linux如何实现远程控制
    小编给大家分享一下Linux如何实现远程控制,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!Linux一般作为服务器使用,而服务器一般放在机房,你不可能在机房操作你...
    99+
    2023-06-28
  • 腾讯云服务器控制台登录不上去
    如果您在腾讯云服务器控制台登录不上去,可能是由于以下原因之一: 验证用户名或密码:首先要确保您的QQ账号和QQ密码是正确的。您可以尝试登录其他QQ或使用第三方登录平台来登录QQ。 检查您的云服务器配置:有时候云服务器的配置可能会影响登录...
    99+
    2023-10-26
    腾讯 控制台 服务器
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作