返回顶部
首页 > 资讯 > 数据库 >被加密后的数据怎么进行模糊查询?
  • 290
分享到

被加密后的数据怎么进行模糊查询?

mysql数据库java 2023-08-16 18:08:13 290人浏览 独家记忆
摘要

文章目录 背景实践设计表方法一:加载进内存方法二:在mysql中使用解密函数方法三:分词加密模糊查询设计思路实现一个简单的模糊查询例子个人理解 总结 背景 为了数据安全我们在开发过程中经常会对重要的数据进行加密存储,常

背景

为了数据安全我们在开发过程中经常会对重要的数据进行加密存储,常见的有:密码、手机号、电话号码、详细地址、银行卡号、信用卡验证码等信息,这些信息对加解密的要求也不一样,比如说密码我们需要加密存储。

一般对这些数据的检索方式只能是完全匹配,如果是模糊匹配的话,根本匹配不了。因为信息已经被加密。

在网上搜素了一些做法,并对这些做法进行了实践。

实践

设计表

设计一个订单表,具有以下基本信息:
主键id
订单号
收货人名称
收货人手机
收货人地址
发货人名称
发货人手机
发货人地址
订单创建时间

CREATE TABLE `ts_order` (  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键',  `order_no` varchar(50) NOT NULL COMMENT '订单号',  `receiver_name` varchar(100) NOT NULL COMMENT '收货人姓名',  `receiver_phone` varchar(100) NOT NULL COMMENT '收货人手机号',  `receiver_address` varchar(100) NOT NULL COMMENT '收货人地址',  `sender_name` varchar(100) NOT NULL COMMENT '发货人姓名',  `sender_phone` varchar(100) NOT NULL COMMENT '发货人手机号',  `sender_address` varchar(100) NOT NULL COMMENT '发货人地址',  `ctime` datetime NOT NULL COMMENT '创建时间',  PRIMARY KEY (`id`)) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8mb4 COMMENT='模糊查询-订单表'

保存适量数据,使用加密算法加密部分字段,这里我选择加密发货人手机两个字段。

方法一:加载进内存

将所有的数据加载进内存,然后进行统一解密,再进行模糊查询。
如果数据量小的话还可以实现,但是数据量大的话还是不要想了,不切实际。因为在Mysql里面,英文字母占一个字节,一个汉字占用两个字节,用DES来举例,13800138000加密后的串HE9T75xNx6c5yLmS5l4r6Q==占24个字节。

条数BytesMB
100W100W*24 = 2400W22.89
1000w1000w*24 = 24000W228.89
1亿10000W*24 = 24亿2288.89

轻则上百兆,重则上千兆,这样分分钟给应用程序整成Out of memory,这样做如果数据少只有几百、几千、几万条时是完全可以这样做的,但是数据量大就强烈不建议了。

方法二:在mysql中使用解密函数

这里,我用AES演示,在查询时,使用对应的解密函数先进行解密,然后再进行模糊查询,如:

-- 代码上我是先进行AES加密,然后base64 url编码后保存到数据库中,mysql只需要走个逆流程select to2.*from mybatis.ts_order to2 whereAES_DECRYPT(from_base64(to2.sender_name)) like '%name%'

我在实践过程中,base64解码我是按照如下步骤进行的:

BASE64URL解码的流程:      1、把BASE64URL的编码做如下解码:               1)把"-"替换成"+"               2)把"_"替换成"/"               3)(计算BASE64URL编码长度)%4                           a)结果为0,不做处理                           b)结果为2,字符串添加"=="                           c)结果为3,字符串添加"="      2、使用BASE64解码密文,得到原始的明文

得到的原文没有什么差别,然后我调用mysqlAES_DECRYPT进行解码,得到的是一个NULL值,我现在找不出原因,所以只能搁置这个方案了。
而且这个方法也不是十全十美的

  1. 无法使用索引优化
  2. 有一些数据库不是完全支持加解密算法实现的,例如我之前使用DES加解密,结果到Mysql提示了DES加解密函数废弃了,所以我这里的例子使用AES(虽然结果还是不行==)

方法三:分词加密模糊查询

设计思路

对密文数据进行分词组合,将分词组合的结果集分别进行加密,然后存储到扩展列,查询时通过key like '%partial%',这是一个比较划算的实现方法,我们先来分析一下它的实现思路。

比如,对手机号进行分词加密,增加一个sender_phone_extend的字段,用来存储分词加密的结果。
先对字符进行固定长度的分组,将一个字段拆分为多个,比如说根据4位英文字符(半角),2个中文字符(全角)为一个检索条件

ningyu1使用4个字符为一组的加密方式,第一组ning ,第二组ingy ,第三组ngyu ,第四组gyu1 … 依次类推。再短的长度不建议支持,因为分词组合会增多从而导致存储的成本增加,反而安全性降低。

如果需要检索所有包含检索条件4个字符的数据比如:ingy ,加密字符后通过 key like “%partial%” 查库。

由于分词加密后的字符串比较长,我使用的Blowfish加密,加密后字符串长度是12,对手机号前8位进行加密并且base64 url编码后,长度为8*12 =96 ,因此预估扩展字段需要是96位以上。

实现一个简单的模糊查询例子

设计表:

CREATE TABLE `ts_order` (  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键',  `order_no` varchar(50) NOT NULL COMMENT '订单号',  `receiver_name` varchar(50) NOT NULL COMMENT '收货人姓名',  `receiver_phone` varchar(50) NOT NULL COMMENT '收货人手机号',  `receiver_address` varchar(50) NOT NULL COMMENT '收货人地址',  `sender_name` varchar(100) NOT NULL COMMENT '发货人姓名',  `sender_phone` varchar(100) NOT NULL COMMENT '发货人手机号',  `sender_address` varchar(100) NOT NULL COMMENT '发货人地址',  `ctime` datetime NOT NULL COMMENT '创建时间',  `sender_phone_extend` varchar(130) DEFAULT NULL COMMENT '发货人手机号模糊查询',  PRIMARY KEY (`id`)) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8mb4 COMMENT='模糊查询-订单表'

BasicInfoProperties:

@ConfigurationProperties(prefix = "benbenpig.boot.basic-info")@Component@Datapublic class BasicInfoProperties {        private String desSecreTKEy;        private String aesSecretKey;        private String blowfishSecretKey;}

Service方法:

@Service@RequiredArgsConstructorpublic class OrderService extends ServiceImpl {    private final BasicInfoProperties basicInfoProperties;        @Transactional(rollbackFor = Exception.class)    public void saveOrder(SaveOrderRequest request) {        Order order = BeanUtil.toBean(request, Order.class);        String originPhone = order.getSenderPhone();        order.setSenderName(blowfishEncrypt(order.getSenderName()));        order.setSenderPhone(blowfishEncrypt(originPhone));        order.setSenderAddress(blowfishEncrypt(order.getSenderAddress()));        order.setSenderPhoneExtend(blowfishQueryEncrypt(originPhone));        save(order);    }        public Page getOrderList(GetOrderRequest request) {        if (StringUtils.isNotBlank(request.getPhone()) && request.getPhone().length() >= 4) {            request.setPhoneEncypt(blowfishQueryEncrypt(request.getPhone()));        }            Page page = baseMapper.getOrderList(request.buildQueryPage(), request);        List records = page.getRecords();        for (GetOrderResponse record : records) {            record.setSenderName(blowfishDecrypt(record.getSenderName()));            record.setSenderPhone(blowfishDecrypt(record.getSenderPhone()));            record.setSenderAddress(blowfishDecrypt(record.getSenderAddress()));        }        return page;    }                public String blowfishQueryEncrypt(String originStr) {        if (StringUtils.isBlank(originStr)) {            return originStr;        }        List subStrList = Lists.newArrayList();        int length = originStr.length();        for (int i = 0; i < length - 3; i++) {            String substring = originStr.substring(i, i + 4);            subStrList.add(blowfishEncrypt(substring));        }        return subStrList.stream().collect(Collectors.joining(""));    }            private String blowfishEncrypt(String originStr) {        if (StringUtils.isBlank(originStr)) {            return originStr;        }        String desSecretKey = basicInfoProperties.getBlowfishSecretKey();        String encrypt = BlowfishUtil.encrypt(originStr, desSecretKey);        return encrypt;    }            private String blowfishDecrypt(String encryptStr) {        if (StringUtils.isBlank(encryptStr)) {            return encryptStr;        }        String desSecretKey = basicInfoProperties.getBlowfishSecretKey();        String encrypt = BlowfishUtil.decrypt(encryptStr, desSecretKey);        return encrypt;    }}

工具类:

public class BlowfishUtil {    @SneakyThrows    public static String encrypt(String value, String secretKeyStr) {        // 加密算法,这里的值是“Blowfish”        String alGorithm = CodeAlgorithmDemoEnum.BLOWFISH.getAlgorithm();        ;        // 转换模式,这里的值是“Blowfish”        String transfORMation = CodeAlgorithmDemoEnum.BLOWFISH.getTransformation();        // --- 生成秘钥 ---        SecretKeySpec secretKeySpec = generateNormalAlgorithmKeyByExistKey(CodeAlgorithmDemoEnum.BLOWFISH.getAlgorithm(),                secretKeyStr);        // 实例化密码对象        Cipher cipher = Cipher.getInstance(transformation);        // 设置模式(ENCRYPT_MODE:加密模式;DECRYPT_MODE:解密模式)和指定秘钥        cipher.init(Cipher.ENCRYPT_MODE, secretKeySpec);        // 加密        byte[] encrypt = cipher.doFinal(value.getBytes());        System.out.printf("%s加密结果:%s \n", algorithm, Base64.getEncoder().encodeToString(encrypt));        System.out.printf("%s加密结果(Url不定长):%s \n", algorithm, Base64.getUrlEncoder().encodeToString(encrypt));        return Base64.getUrlEncoder().encodeToString(encrypt);    }    @SneakyThrows    public static String decrypt(String value, String secretKeyStr) {        // 加密算法,这里的值是“Blowfish”        String algorithm = CodeAlgorithmDemoEnum.BLOWFISH.getAlgorithm();        ;        // 转换模式,这里的值是“Blowfish”        String transformation = CodeAlgorithmDemoEnum.BLOWFISH.getTransformation();        // --- 生成秘钥 ---        SecretKeySpec secretKeySpec = generateNormalAlgorithmKeyByExistKey(CodeAlgorithmDemoEnum.BLOWFISH.getAlgorithm(),                secretKeyStr);        // 实例化密码对象        Cipher cipher = Cipher.getInstance(transformation);        // 解密        cipher.init(Cipher.DECRYPT_MODE, secretKeySpec);        byte[] encrypt = Base64.getUrlDecoder().decode(value);        byte[] decrypt = cipher.doFinal(encrypt);        return new String(decrypt);    }    // --- 生成秘钥 ---    @SneakyThrows    public static SecretKeySpec generateNormalAlgorithmKey() {        String algorithm = CodeAlgorithmDemoEnum.BLOWFISH.getAlgorithm();        Integer testLength = CodeAlgorithmDemoEnum.BLOWFISH.getTestLength();        // 实例化秘钥生成器        KeyGenerator keyGenerator = KeyGenerator.getInstance(algorithm);        // 初始化秘钥长度        keyGenerator.init(testLength);        // 生成秘钥        SecretKey secretKey = keyGenerator.generateKey();        // 生成秘钥材料        SecretKeySpec secretKeySpec = new SecretKeySpec(secretKey.getEncoded(), algorithm);        System.out.printf("%s秘钥:%s \n", algorithm, Base64.getEncoder().encodeToString(secretKey.getEncoded()));        System.out.printf("%s秘钥(Url不定长):%s \n", algorithm, Base64.getUrlEncoder().encodeToString(secretKey.getEncoded()));        return secretKeySpec;    }    // --- 基于已有秘钥字符串生成秘钥 ---    @SneakyThrows    public static SecretKeySpec generateNormalAlgorithmKeyByExistKey(String algorithm, String secretKeyStr) {        // 还原秘钥        SecretKeySpec desSecretKey = new SecretKeySpec(Base64.getUrlDecoder().decode(secretKeyStr), algorithm);        System.out.printf("%s秘钥:%s \n", algorithm, Base64.getEncoder().encodeToString(desSecretKey.getEncoded()));        System.out.printf("%s秘钥(URL不定长):%s \n", algorithm, Base64.getUrlEncoder().encodeToString(desSecretKey.getEncoded()));        return desSecretKey;    }}

Mapper文件:

    select to2.* from mybatis.ts_order to2                        and to2.sender_name like concat('%',#{request.name},'%')                            and to2.sender_address like concat('%',#{request.address},'%')                                    and to2.sender_phone_extend like concat('%',#{request.phoneEncypt},'%')            

配置文件:
BasicInfoProperties 是映射application.yml的某个配置
配置里面我放了一个固定的blowfish秘钥

moxing:  boot:    basic-info:      des-secret-key: Jexbbajs6m4=      aes-secret-key: pwsNcrh21Rx3nRCAatSQbji45cIDCujDYpWxLfDQJeA=      blowfish-secret-key: 3mCOvshidAxioaEd_LFTxQ==

效果演示:
我使用apifox工具,造了几条数据

{    "id": 15,    "orderNo": "enim Excepteur",    "receiverName": "现格表进",    "receiverPhone": "18656758863",    "receiverAddress": "澳门特别行政区石嘴山市阳谷县",    "senderName": "式运位那月增",    "senderPhone": "19862775573",    "senderAddress": "台湾新乡市靖宇县",    "ctime": "2022-12-08T15:07:24"},{    "id": 16,    "orderNo": "velit",    "receiverName": "么合易子段",    "receiverPhone": "18155850982",    "receiverAddress": "河北省九龙其它区",    "senderName": "高质事",    "senderPhone": "18694314255",    "senderAddress": "海南省张家界市双辽市",    "ctime": "2022-12-08T15:08:03"},....

接下来我对其中一个进行模糊查询,例如19862775573这个手机号,我输入277557,调用getOrderList方法查询
在这里插入图片描述

个人理解

上面方法2的无法用索引优化,虽然这里like '%text%' ,通过explain也无法使用,但是可以优化成like 'text%',至少不用mysql函数了。
但是,支持模糊查询后的密文比原来不支持模糊查询的密文要长几倍以上,而且修改模糊查询的成本比较大,检索串需要4个字符以上才可以查询。
所以这种模糊查询的方式适用长度较小且敏感的字符串。例如手机号,地址,订单号

总结

实践尝试了三个方法,最后一个方法对于我来说还是可以接受的,不过更高级的做法目前我还是理解不了,这些做法涉及到了算法领域,系统领域的知识,我也不是算法领域的人才,所以我留到以后有机会再补充。

来源地址:https://blog.csdn.net/ZULJ131/article/details/126777459

您可能感兴趣的文档:

--结束END--

本文标题: 被加密后的数据怎么进行模糊查询?

本文链接: https://lsjlt.com/news/371851.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • 被加密后的数据怎么进行模糊查询?
    文章目录 背景实践设计表方法一:加载进内存方法二:在mysql中使用解密函数方法三:分词加密模糊查询设计思路实现一个简单的模糊查询例子个人理解 总结 背景 为了数据安全我们在开发过程中经常会对重要的数据进行加密存储,常...
    99+
    2023-08-16
    mysql 数据库 java
  • 数据库加密字段进行模糊查询详解
    目录需求服务器端解密数据库端解密字符串分片代价密文长度较长分片长度不能太短可能有多余结果需求 对于一些敏感字段,比如手机号码、身份证、地址、银行卡号等,我们在存放进数据库前,可能需要对其进行加密。 大部分情况下,我们只需...
    99+
    2024-04-02
  • PHP中怎么对数组进行模糊查询
    这篇文章主要介绍“PHP中怎么对数组进行模糊查询”,在日常操作中,相信很多人在PHP中怎么对数组进行模糊查询问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”PHP中怎么对数组进行模糊查询”的疑惑有所帮助!接下来...
    99+
    2023-07-06
  • PHP进行模糊查询的方法
    这篇文章主要介绍了PHP进行模糊查询的方法,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。模糊查询的方法:1、使用SQL匹配模式,操作符使用“LIKE”或“NOT LIKE”,...
    99+
    2023-06-14
  • mysql如何对已经加密的字段进行模糊查询详解
    目录问题:但是加密之后我们怎么来查询呢?1、了解HEX 函数与UNHEX 函数2、了解AES_ENCRYPT函数与AES_DECRYPT函数Java工具类AES加解密同步使用总结场景:在模糊查询电话号码的时候,发现电话号...
    99+
    2024-04-02
  • ThinkPHP中怎么进行数据查询后添加字段
    本篇内容主要讲解“ThinkPHP中怎么进行数据查询后添加字段”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“ThinkPHP中怎么进行数据查询后添加字段”吧!一、查询数据我们先来回顾一下如何在T...
    99+
    2023-07-06
  • 大数据报表怎么做模糊查询
    这篇文章的内容主要围绕大数据报表怎么做模糊查询进行讲述,文章内容清晰易懂,条理清晰,非常适合新手学习,值得大家去阅读。感兴趣的朋友可以跟随小编一起阅读吧。希望大家通过这篇文章有所收获!在数据查询系统中,我们常常会遇到精准查询和模糊查询。我们...
    99+
    2023-06-04
  • Vue怎么实现Mysql数据库数据的模糊查询
    这篇文章主要介绍Vue怎么实现Mysql数据库数据的模糊查询,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!1.需求输入框中输入数据,根据输入的结果模糊搜索数据库对应内容,实现模糊查询。2.实现输入框使用v-model...
    99+
    2023-06-22
  • SQL的模糊查询怎么实现
    本篇内容介绍了“SQL的模糊查询怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!前言说到SQL的模糊...
    99+
    2024-04-02
  • dedecms怎么进行数据库查询
    dedecms进行数据库查询的步骤是:1、登录到DedeCMS后台管理界面;2、导航到“数据库管理”页面;3、根据您的需求,编写相应的查询语句;4、点击执行按钮或提交按钮来执行查询;5、查看符合查询条件的记录即可。DedeCMS ...
    99+
    2023-08-03
  • Cassandra中怎么进行数据建模和查询优化
    在Cassandra中进行数据建模时,需要考虑以下几点: 根据查询模式来设计表结构:Cassandra是面向列的数据库,通常要根...
    99+
    2024-04-02
  • MySQL中Like模糊查询速度太慢该怎么进行优化
    这篇文章主要介绍MySQL中Like模糊查询速度太慢该怎么进行优化,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!第一个思路建索引like %keyword 索引失效,使用全表扫描。like keyword% 索引有效...
    99+
    2023-06-22
  • mysql数据库模糊查询语句的用法
    模糊查询语句如下:“SELECT 字段 FROM 表 WHERE 某字段 Like 条件”。mysql提供了四种匹配模式:1、% 表示任意0个或多个字符。如下语句:SELECT * ...
    99+
    2024-04-02
  • Android sqlite--模糊查询数据库数据的三种方式
      android应用开发中常常需要记录一下数据,而在查询的时候如何实现模糊查询呢?很少有文章来做这样的介绍,所以这里简单的介绍下三种sqlite的模糊查询方式,直接上代码...
    99+
    2022-06-06
    数据 SQLite 数据库 Android
  • mysql中的模糊查询怎么使用
    在MySQL中,可以使用LIKE操作符进行模糊查询。LIKE操作符用于在查询中匹配模式,可以使用通配符来表示模式的一部分。以下是一些...
    99+
    2024-04-09
    mysql
  • mysql中的模糊查询怎么实现
    在MySQL中,可以使用LIKE操作符来实现模糊查询。LIKE操作符用于在WHERE子句中搜索列中的指定模式。模式可以包含通...
    99+
    2024-04-09
    mysql
  • 怎么使用mysql进行数据查询
    要使用MySQL进行数据查询,您需要按照以下步骤进行操作: 连接到MySQL数据库。可以使用命令行或图形界面工具连接到MySQL...
    99+
    2024-04-09
    mysql
  • 怎么进行Oracle Data Redaction数据加密
    今天就跟大家聊聊有关怎么进行Oracle Data Redaction数据加密,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。 1.Oracle R...
    99+
    2024-04-02
  • MySQL怎么对数据库进行加密
    MySQL数据库本身并不提供加密功能,但可以通过以下方式对数据库进行加密: 使用加密函数:MySQL提供了一些加密函数,如AES...
    99+
    2024-04-02
  • PHP怎么进行数据库的查询遍历
    在web开发中,PHP作为一种常用的后端语言,常常用于与数据库进行交互,进行数据的增删改查等操作。而在这些操作中,查询(SELECT)通常是使用最为频繁的一个操作,尤其是在网站开发中。本文将介绍如何使用PHP来进行数据库的查询遍历,...
    99+
    2023-05-14
    php 数据库
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作