返回顶部
首页 > 资讯 > 数据库 >数据表迁移数据一致性验证
  • 757
分享到

数据表迁移数据一致性验证

2024-04-02 19:04:59 757人浏览 泡泡鱼
摘要

在迁移数据库的时候做一些必要的验证还是很有用的,比如说迁移前后的数据条数是否一致,数据是否一致,这个时候怎么办呢,验证条数还好说,要是验证数据是否一致呢,对于重要的数据当然要每条都不会有差错,随机抽样验

在迁移数据库的时候做一些必要的验证还是很有用的,比如说迁移前后的数据条数是否一致,数据是否一致,这个时候怎么办呢,验证条数还好说,要是验证数据是否一致呢,对于重要的数据当然要每条都不会有差错,随机抽样验证肯定是不行的,万一遗漏了就麻烦了,而且两张表不再同一台服务器上。这个时候该怎么办呢,有一种方法:

  1. 从表中选取几个重要字段,比如说A、B、C,用这几个字段作为比对的标尺。
  2. 从原表中导出每条数据的这三个字段到一个文件f1中。
  3. 从目的表中到处每条数据的这三个字段到文件f2中。
  4. 比对文件f1、f2文件中的每条数据是否相同。
  5. 得出结论

  上面这种方法是同时想出来的,也还不错,但我觉得还有改进的余地:

  • 首先就是不是所有字段,仍然有可能在非主要字段出现different。
  • 整体效率比较低

  我的想法是这样:

  1. 对表中的每n条数据进行拼接(直接连接起来,n取值取决于每条数据的数据量大小)。
  2. 计算这n条数据的md5值,添加到文件f1中,直到所有数据取值完成。
  3. 对目的表也一样,记录的文件f2中。
  4. 比对文件f1、f2文件的md5值,如果一致,ok,成功。
  5. 如果不一致,从上倒下比对每条md5值,找到第m条不一致。
  6. 得出结论,不一致的数据在m*(n-1)+1 ~ m*n之间,可以再次选择定位。

  第二种方法的好处就是输出文件会在一定范围缩小,比对方便,但是也有缺点,不能像第一种方法一样直接通过关键字段定位不同数据的位置。

  下面是第二种方法效果和的具体代码实现:

数据表迁移数据一致性验证

?
您可能感兴趣的文档:

--结束END--

本文标题: 数据表迁移数据一致性验证

本文链接: https://lsjlt.com/news/48874.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • 数据表迁移数据一致性验证
    在迁移数据库的时候做一些必要的验证还是很有用的,比如说迁移前后的数据条数是否一致,数据是否一致,这个时候怎么办呢,验证条数还好说,要是验证数据是否一致呢,对于重要的数据当然要每条都不会有差错,随机抽样验...
    99+
    2024-04-02
  • mysql只读模式下数据迁移,保证数据一致性
          在MySQL数据库中,在进行数据迁移和从库只读状态设置时,都会涉及到只读状态和Master-slave的设置和关系。     ...
    99+
    2024-04-02
  • 如何在Python中进行数据可靠性存储和迁移,以及数据一致性的保证和校验
    如何在Python中进行数据可靠性存储和迁移,以及数据一致性的保证和校验引言:数据的安全性和一致性对于任何应用程序都至关重要。在Python中,我们可以使用一些技术和库来确保数据的可靠性存储和迁移,以及数据一致性的保证和校验。本文将介绍几种...
    99+
    2023-10-22
    数据迁移 数据一致性 数据可靠性存储
  • Spring Data 的数据验证:确保数据完整性和一致性
    注解验证 Spring Data 提供了几个注解,用于在实体类中直接指定验证规则: @NotNull: 字段不能为空。 @Size: 限制字符串长度或集合大小。 @Min 和 @Max: 指定数值约束。 @Pattern: 验证字符串是...
    99+
    2024-04-02
  • PHP Session 跨域的数据一致性验证机制
    随着互联网的发展,跨域访问成为了常见的需求,而在进行跨域访问时,保持数据一致性成为了一项重要的挑战。PHP提供了Session机制用于在不同请求间保持数据的一致性,但默认情况下,Session的跨域访问是无法实现的。本文将介绍一种基于Tok...
    99+
    2023-10-21
    PHP session 跨域
  • redis怎么保证数据一致性
    一般来说,只要你用到了缓存,不管是Redis还是memcache,就可能会涉及到数据库缓存与数据的一致性问题,这里我们以Redis为例。我们该如何保证Redis与数据库的一致性呢? So easy: (推荐...
    99+
    2017-04-27
    redis
  • mysql怎么保证数据一致性
    在MySQL中,可以采取以下几种方式来保证数据的一致性:1. 使用事务:事务可以将一系列操作单独的执行单元,要么全部成功提交,要么全...
    99+
    2023-09-15
    mysql
  • canal怎么保证数据一致性
    canal可以通过以下方式来保证数据一致性: 基于事务日志解析:canal通过解析数据库的事务日志来获取数据变更的信息。由于数据...
    99+
    2023-10-22
    canal
  • Cassandra如何保证数据一致性
    Cassandra 使用了一系列机制来保证数据一致性,包括: 同步复制:Cassandra 采用多节点复制策略,将数据同时复制到...
    99+
    2024-04-09
    Cassandra
  • redis如何保证数据一致性
    Redis 保证数据一致性的方法主要有以下几种: 主从复制:Redis 支持主从复制机制,通过将主节点的数据复制到备用的从节点上...
    99+
    2024-05-10
    redis
  • redis怎么保证和数据库数据一致性
    Redis是一个内存数据库,通常用作缓存。相比于传统的磁盘数据库,Redis在性能上具有优势,但它也有可能在某些情况下出现数据不一致...
    99+
    2024-02-29
    redis 数据库
  • SQL级别数据一致性校验
    SQL级别数据一致性校验是指通过SQL语句来确保数据库中的数据保持一致性的过程。数据一致性校验通常包括以下几个方面: 数据类型校验:确保数据的类型符合预期,例如字符串字段是否包含非法字符、数字字段是否包含字母等。 数据范围校验:确保...
    99+
    2024-08-03
    sql
  • 数据一致性
    在分布式环境下,为了避免设备与网络不可靠带来的影响,通常会存储多个数据副本。逻辑上的一份数据,同时存储在多个物理副本上,带来了数据已执行的问题。数据一致性问题的前提是发生读写操作,就是多个副本上的读写策略。 数据一致性从不同的视角,可以分...
    99+
    2014-10-25
    数据一致性
  • 由数据迁移至MongoDB导致的数据不一致问题及解决方案
    ##故事背景 ###企业现状 2019年年初,我接到了一个神秘电话,电话那头竟然准确的说出了我的昵称:上海小胖。 我想这事情不简单,就回了句:您好,我是小胖,请问您是? “我就是刚刚加了你微信的 xxx 啊” 哦……他只是把我的微信昵称报出...
    99+
    2021-02-24
    由数据迁移至MongoDB导致的数据不一致问题及解决方案
  • 缓存与数据库一致性保证
    全是干货!本文主要讨论这么几个问题:(1)啥时候数据库和缓存中的数据会不一致(2)不一致优化思路(3)如何保证数据库与缓存的一致性一、需求缘起当数据发生变化时,“先淘汰缓存,再修改数据库”这个点是大家讨论的...
    99+
    2024-04-02
  • MySQL保证数据一致性的方式
    这篇文章主要讲解了“MySQL保证数据一致性的方式”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“MySQL保证数据一致性的方式”吧!一、MySQL事务模型A...
    99+
    2024-04-02
  • rabbitmq如何保证数据的一致性
    RabbitMQ 通过以下方式来保证数据的一致性: 事务: RabbitMQ 支持事务机制,可以将多条消息发送到队列中原子操作。...
    99+
    2023-10-26
    rabbitmq
  • Cassandra如何保证数据的一致性
    Cassandra 通过以下几种方法来保证数据的一致性: Quorum Consistency Level:Cassandra ...
    99+
    2024-04-09
    Cassandra
  • Cassandra的数据一致性怎么保证
    Cassandra使用了一种称为“最终一致性”的数据一致性模型来保证数据一致性。在这种模型下,不同节点之间的数据可能会出现短暂的不一...
    99+
    2024-05-11
    Cassandra
  • 怎么保证缓存和数据库的数据一致性
    本篇内容主要讲解“怎么保证缓存和数据库的数据一致性”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么保证缓存和数据库的数据一致性”吧!1、错误的解决方案1.1、...
    99+
    2023-04-21
    数据库
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作