返回顶部
首页 > 资讯 > CMS >快速实现wordpress迁移到RadonDB上
  • 330
分享到

快速实现wordpress迁移到RadonDB上

快速实现wordpress迁移到RadonDB上 2017-06-30 02:06:51 330人浏览 无得
摘要

作者: 吴炳锡,知数堂联合创始人及Mysql高级讲师,3306π社区联合创始人,腾讯TVP成员。 本文大概5500字,阅读大概需要15分钟,建议电脑前阅读。大纲如下: 概述 使用Radon attache功能的好处 基本环境

快速实现wordpress迁移到RadonDB上

作者: 吴炳锡,知数堂联合创始人及Mysql高级讲师,3306π社区联合创始人,腾讯TVP成员。

本文大概5500字,阅读大概需要15分钟,建议电脑前阅读。大纲如下:

  • 概述

  • 使用Radon attache功能的好处

  • 基本环境描述

  • Wordpress库加入到Radon中

  • 利用wordpress体验Radon的透明分库分表

  • 总结

可以关注知数堂腾讯课堂上我分享的RadonDB相关视频。

最近发现RadonDB在特性中引入一个新特性:Single table 到分区表快速转换,另外还引进了一个优秀的特性,把现有的mysql库直接attach到Radon下面。看到这两个特性真是太赞了。可以非常方便用户实现原来的单表,快速变成拆分表,一条命令搞定。具体的issue参考:https://GitHub.com/radondb/radon/issues/436 而且这个特性会在1.0.8这个版本发布。下面我们一块来体验一下吧。该文档可以用于先看看整体思想上有一个认识后再行动。

利用Radon attach获得的好处

  • 连接池外置。如果你的应用程序没有连接池,或是Mysql上挂了上千个以上的连接时又不想让MySQL上因为挂连接而影响性能,那就可以考虑利用Radon做外置的连接池。例如:在原来老的MySQL上挂一个Radon,所有的表都是Single表模式,现的Radon只是对SQL解析获取到表名,直接传递给后端,后面基本就是tcp中转操作:从后端获取结果返回给前端。修改:"max-connections": 1024 即可。

  • 利用Radon实现原来的老的项目日志数据或是海量数据混跑。利用attach功能挂载原来的MySQL,把大表迁移到Radon中。为了求稳,你还可以通过老库访问原来除了大表外的其它表,对于超级大表可以通过Radon访问,当然Radon也可以访问挂载上的MySQL.

  • 可利用到Radon提供的审计, 透明自动拆分功能。 

基本环境及架构描述

这里为了更清楚整个过程,采用全部自建环境:单机多实例环境 安装:LAMP环境,可以用运行wordpress确认,在单库环境下是正常的。wordpress使用数据库端号:3306端口。为了看来了来效果,我在增加一个实例:3307 端口的数据库

这里只是一个功能测试,所以不在给MySQL做高可用,如果需要高可用可以搭建xenon环境。Radon安装,可以看到前面章节,启动一个空的radon:

./bin/radon -c ./radon.json >radon.log 2>&1 &

Radon配置如下

{
          "proxy":  {
                  "endpoint":  ":3316",
                  "meta-dir":  "bin/radon-meta",
                  "peer-address":  ":8080"
          },
          "audit":  {
                  "audit-dir":  "bin/radon-audit"
         },
         "log":  {
                  "level":  "INFO"
        },
        "monitor":  {
                  "monitor-address":  "0.0.0.0:13380"
       }
}

添加MySQL到Radon中,在Radon进程所在的机器上执行:

curl -i -H "Content-Type: application/JSON"  -X POST -d "{"name": "backend1", "address": "192.168.0.2:3307", "user":"wubx", "password": "wubxwubx", "max-connections":1024}" Http://127.0.0.1:8080/v1/radon/backend

参数说明:

{
    
"name":  后端节点命名,要求唯一,
    
"address"  :  后端MySQL连接串,
    
"user":  MySQL连接用户名,
    
"password": 数据库连接密码,
    
"max-connections": 最大支持多少个连接连后后端DB中, 加入Radon后也可以启到一个连接池的作用。
    
}

整个环境节架构如下:

环境确认:博客链接3306端口,确认wordpress工作正常。

把wordpress库加入到Radon中

mysql -h 192.168.0.2  -P3316 -uwubx -pwubxwubx
mysql>radon attach("192.168.0.2:3306","wubx","wubxwubx");

观察日志输出:

2019/11/29  10:33:13.131527 frm.Go:107:  [INFO] frm.write.database[db:wubx]
...
2019/11/29  10:33:14.151430 frm.go:43:  [INFO] frm.write.data[db:wubx, table:wp_users, shardType:SINGLE]
2019/11/29  10:33:14.188426 frm.go:43:  [INFO] frm.write.data[db:wubx, table:wp_wp_rp_tags, shardType:SINGLE]
2019/11/29  10:33:14.583204 scatter.go:128:  [WARNING] scatter.flush.to.file[bin/radon-meta/backend.json].backends.conf:[0xc00012ef50  0xc0001a69a0  0xc00041d1f0]
2019/11/29  10:33:14.593135 admin_attach.go:80:  [WARNING] attach[{192.168.0.2:3306  192.168.0.2:3306 wubx wubxwubx 1024}]

从日志中可以看出来, Radon把原库直接挂载到Radon下面,把原始3306库下的wubx库下表注删到radon下面,同时把配置写到:bin/radon-meta/backend.json & bin/radon-meta/wubx/ 这个目录。同时也在3307两个原始节点上建出来: wubx库(日志:frm.write.database[db:wubx]),但没有表。这里看一下backend.json内容:

{
          "backends":  [
                  {
                          "name":  "backend1",
                          "address":  "192.168.0.2:3307",
                          "user":  "wubx",
                          "password":  "wubxwubx",
                          "database":  "",
                          "charset":  "utf8",
                          "max-connections":  1024,
                          "role":  0
                  },
                  {
                          "name":  "192.168.0.2:3306",
                          "address":  "192.168.0.2:3306",
                          "user":  "wubx",
                          "password":  "wubxwubx",
                          "database":  "",
                          "charset":  "utf8",
                          "max-connections":  1024,
                          "role":  1
                 }
         ]
}

从上面配置上可以看到:192.168.0.2:3306也直接挂载了Radon下面。从上面的配置中,可以看到: 192.168.0.2:3306 在Radon中成为一个IP:PORT的后端存储节点,另外Role:1 表示是一个attach上来的节点。 

通过radon-meta对应库下的表分布对应关系查看:

cat bin/radon-meta/wubx/wp_users.json
{
        "name":  "wp_users",
        "slots-readonly":  0,
        "blocks-readonly":  0,
        "shardtype":  "SINGLE",
        "shardkey":  "",
        "partitions":  [
                {
                         "table":  "wp_users",
                         "segment":  "",
                         "backend":  "192.168.0.2:3306",
                         "listvalue":  ""
                 }
         ]
}

这里Single表即是没进行分库分表。所有的库都位于192.168.0.2:3306这个端口下wubx库下。架构如下:

现在把wordpress中配wp_config.PHP的配置从原来的3306连接指3316(radon)端口,可以发现,也可以正常对外提供服务了。Radon中遇到Single表的情况下是把SQL透明下发到后达。所在这里Radon更相当于一个TCP的代理层,主要可以启到“连接池”,审计等相关功能。接下来,我们可以看看Radon带来的福利了,例如:审计, 透明自动拆分, 并行执行, 分布式事务 等功能了。

利用wordpress体验Radon的透明分库分表

我们知道wordpress最大表是wpposts这个内容表,当我们Blog积累的内容足够多的情况下, 该表也许会成为一个瓶颈。这里我们对wpposts表做一次从single表到拆分表的转换:

MySQL>RADON RESHARD wp_posts to new_wp_posts;
MySQL>alter table wp_posts rename wp_post_bak;
MySQL>alter table new_wp_posts rename to wp_posts;

首先利用Radon reshard 把原来一个非拆分表,变成一个新的拆分表, 这里有一个不错的设计, 该操作完,也不会把wp_posts表删除,这是一个不错的设计。后面利用改表名后,再来看看业务运行情况。现在的架构如下 :

做完以上动作Wordpress白页了,内容页显示不出来,从Radon的报错日志(radon.log)中发现Radon还没支持 SQLCALCFOUNDROWS 这个函数。所以可以通过,查询源码中:

主要处理和wpdb->posts这个查询有关found_rows就可以,处理办法:

if  (  !$q["no_found_rows"]  &&  !empty($limits)  )
      $found_rows =  "SQL_CALC_FOUND_ROWS";
      $found_rows =  "";

再来确认:Blog又可以工作了。因为wordpress的分页用到了SQLCALCFOUNDROWS这个功能,所以唯一不爽的地方,没分页了。

再来看一下wpposts表在后端节点的分布情况:

cat bin/radon-meta/wubx/wp_posts.json

{
            "name":  "wp_posts",
            "slots-readonly":  4096,
            "blocks-readonly":  64,
            "shardtype":  "HASH",
            "shardkey":  "ID",
            "partitions":  [
                    {
                             "table":  "wp_posts_0000",
                             "segment":  "0-64",
                             "backend":  "backend1",
                             "listvalue":  ""
                    },
                    ...
                    {
                             "table":  "wp_posts_0031",
                             "segment":  "1984-2048",
                             "backend":  "backend1",
                             "listvalue":  ""
                    },
                    {
                             "table":  "wp_posts_0032",
                             "segment":  "2048-2112",
                             "backend":  "backend1",
                             "listvalue":  ""
                    },
                    ...
                    {
                             "table":  "wp_posts_0063",
                             "segment":  "4032-4096",
                             "backend":  "backend1",
                             "listvalue":  ""
                    }
          ],
          "auto-increment":  {
                    "column":  "ID"
          }
}

从以上定义来看 wp_posts以ID用HASH的方式给给拆分成64个物理表,实质上拆分成了4096个slot, 每个物理子表接受一个区间的slot服务, 并完美的迁移到Radon集群下面节点上,如果有多个Backend,该动作会把拆分后的表均匀的分到其它节点上,在joins查询各方面完美。限于篇幅问题,这里不再展开。如果对于拆分表后SQL是怎么运行的有兴趣,可以连接入Radon中,运行: explain 具体的SQL看一下 Radon SQL改写。

这里其实可以有一个大胆的尝试,利用attach功能,把小表跑在attach节点上,大表跑在Radon拆分的节点,然后加多个attach节点,这样下面整体的可管理性更强。这个方案需要进一步测试和官方确定是不是可以用。单个attach上去的节点也有点Radon中单独建的Single table作用。

特别注意事项点如果把现有的业务数据库直接加入到Radon中,原来的DB不要在做为Backend加入了。操作上就象上面操作,直接attach上去,就可以使用了,就行。

总结

通过本案例可以看出来,Radon对于现有项目迁移到分布式环境有着不错的支持方案,对于SQL丰富度支持,也不错,对于wordpress的SQL基本可以原生不动的迁移过来,可以说Radon对SQL的支持复杂度也上了一个新台阶。另一方面, 对于MySQL一些内置函数,支持不友好。从Radon代码上看,Radon对于支持的指令都是严格处理,拿一个show table status; 这个指令的处理,一般的中间件,就是直接传到后端第一个节点上,获取数据返回就ok了,但Radon的处理是把这个请求会发到后端所有的节点,然后把结果进行合并后,返回,这点上感觉Radon做事上是力求正确。不是单纯的兼容。所以最后,看到Radon在github开源项目上新的feature也都比较让人激动,听说这些功能也是一些互联网公司在免费使用Radon后给官方提需求,青云的小伙伴认真的把这些需求也加到了issue中,排期进行。据了解,他们也非常欢迎大家提的需求。个人的另一个感受,Radon代码风格很爽,可以研究一下Radon的代码,学习一下利用golang开发MySQL中间件:)。

有问题请联系:

--结束END--

本文标题: 快速实现wordpress迁移到RadonDB上

本文链接: https://lsjlt.com/news/5137.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • 快速实现wordpress迁移到RadonDB上
    作者: 吴炳锡,知数堂联合创始人及MySQL高级讲师,3306π社区联合创始人,腾讯TVP成员。 本文大概5500字,阅读大概需要15分钟,建议电脑前阅读。大纲如下: 概述 使用Radon attache功能的好处 基本环境...
    99+
    2017-06-30
    快速实现wordpress迁移到RadonDB上
  • MySQL快速迁移到Redis方法
    本文主要给大家介绍MySQL快速迁移到Redis方法,文章内容都是笔者用心摘选和编辑的,具有一定的针对性,对大家的参考意义还是比较大的,下面跟笔者一起了解下MySQL快速迁移到Redis方法吧。 ...
    99+
    2024-04-02
  • 如何快速迁移Next.js应用到函数计算
    本篇文章给大家分享的是有关如何快速迁移Next.js应用到函数计算,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。首先介绍下出现的几个比较重要的概念:函数计算(Function ...
    99+
    2023-06-04
  • 新一代数据集成工具ETLCloud入门实践:实现MySQL到ClickHouse的快速迁移
    背景 大数据(BigData)最重要的是数据,没有数据其他的就无从谈起(如今GPT大热,也是得益于海量数据的采集、存储、计算及治理能力的提升)。大数据项目开发的首要任务就是采集海量数据,这就要求我们具备海量数据采集的能力。 在实际工作中,数...
    99+
    2023-08-18
    MySQL ClickHouse ETLCloud 数据集成工具 可视化数据集成
  • 如何用冷备份技术快速将DB迁移到新机器
    如何用冷备份技术快速将DB迁移到新机器,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。 说明:1、测试环境SYS@o...
    99+
    2024-04-02
  • Springboot迁移到Micronaut实现过程详解
    目录设置上下文示例应用程序常见变化迁移 web 层迁移数据访问层迁移执行器设置上下文 JVM是一项伟大的技术。现代版本将运行的字节码编译为本机代码,具体取决于现有的工作负载。出于这个...
    99+
    2023-05-20
    Springboot迁移到Micronaut Springboot迁移
  • 通过Docker Compose、Nginx和MariaDB实现PHP应用程序的快速迁移
    随着云计算的不断发展和普及,越来越多的应用程序开始采用容器化的方式进行部署和管理。而Docker是目前最为流行的容器化平台之一,它提供了快速、轻量级的应用程序封装和交付解决方案。在本文中,我们将介绍如何使用Docker Compose、Ng...
    99+
    2023-10-21
    nginx mariadb Docker Compose
  • ps怎么实现快速瞬移效果
    这篇文章主要讲解了“ps怎么实现快速瞬移效果”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“ps怎么实现快速瞬移效果”吧!1、ps打开,导入素材并且复制图层。2、使用内容感知移动工具单击。3、...
    99+
    2023-06-20
  • Docker容器迁移Oracle到MySQL的实现方法
    目录⛳️ 1. 创建专用网络⛳️ 2. oracle 12C部署✨ 2.1 镜像下载✨ 2.2 容器创建✨ 2.3 创建业务用户✨ 2.4 监听启动⛳️ 3. mysql8部署✨ 3.1 容器创建✨ 3.2 参数设置✨ ...
    99+
    2022-07-20
    Docker迁移Oracle到MySQL DockerOracle到MySQL
  • 将Oracle中一个大数据表快速迁移到Sqlserver2008数据库的案例
    这篇文章主要介绍将Oracle中一个大数据表快速迁移到Sqlserver2008数据库的案例,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!oracle 服务器  版本 &n...
    99+
    2024-04-02
  • 如何实现oracle数据迁移到db2数据库
    这篇文章将为大家详细讲解有关如何实现oracle数据迁移到db2数据库,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。1、表结构迁移在plsql中选择表----->d...
    99+
    2024-04-02
  • SQL Server无感系统迁移到MySQL怎么实现
    本篇内容主要讲解“SQL Server无感系统迁移到MySQL怎么实现”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“SQL Server无感系统迁移到MySQL怎么实现”吧!...
    99+
    2023-06-30
  • python+django快速实现文件上传
    对于web开来说,用户登陆、注册、文件上传等是最基础的功能,针对不同的web框架,相关的文章非常多,但搜索之后发现大多都不具有完整性,对于想学习web开发的新手来说就没办法一步一步的操作练习;对于web应用...
    99+
    2022-06-04
    文件上传 快速 python
  • mysql 实现迁移数据库到另一台服务器
    目录mysql迁移数据库到另一台服务器在两个服务器之间迁移mysql数据库第一步 - 执行MySQL转储第二步 - 复​​制数据库第三步 - 导入数据库mysql迁移数据库到另一台服务器 1.生成sql压缩文件(库名gk...
    99+
    2024-04-02
  • 如何实现迁移RDS for MySQL数据到本地 MySQL
    不知道大家之前对类似如何实现迁移RDS for MySQL数据到本地 MySQL的文章有无了解,今天我在这里给大家再简单的讲讲。感兴趣的话就一起来看看正文部分吧,相信看完如何实现迁移RDS for MySQ...
    99+
    2024-04-02
  • Python 虚拟环境迁移到其他电脑的实现
    目录一、背景介绍二、实现方案1、虚拟环境打包2、虚拟环境迁移3、激活虚拟环境一、背景介绍 在 Python 项目开发过程中,根据不同的项目场景,需要切换不同的 Python 版本。因...
    99+
    2023-05-15
    Python 虚拟环境迁移 python虚拟环境移植
  • mysql实现迁移数据库到另一台服务器
    目录mysql迁移数据库到另一台服务器在两个服务器之间迁移mysql数据库第一步 - 执行MySQL转储第二步 - 复​​制数据库第三步 - 导入数据库mysql迁移数据库到另一台服...
    99+
    2024-04-02
  • Conda中环境迁移到另一个服务器的实现
    1.这是我自己在网上尝试过的成功的一个方法 首先在你有环境的服务器中安装conda-pack pip install conda-pack 2.打包环境 conda pack -n ...
    99+
    2023-03-13
    Conda 环境迁移 Conda环境迁移服务器
  • Python如何快速实现分列转到行
    这篇“Python如何快速实现分列转到行”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Python如何快速实现分列转到行”文...
    99+
    2023-07-05
  • Win8用工具FastCopy极速复制大文件实现快速转移
      大家空闲时总会看高清电影,使用Win8系统更先进的功能来看,能有更好的体验,比如高速、流畅。但是如果要把电影这种大体积的文件转移,那就麻烦了,很花时间。其实,在Win8中,可以使用小工具“F...
    99+
    2022-06-04
    极速 大文件 快速
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作