• 设为首页
  • 收藏本站
  • 积分充值
  • VIP赞助
  • 手机版
  • 微博
  • 微信
    微信公众号 添加方式:
    1:搜索微信号(888888
    2:扫描左侧二维码
  • 快捷导航
    福建二哥 门户 查看主题

    Oracle数据库使用 listagg去重删除重复数据的方法汇总

    发布者: 福建二哥 | 发布时间: 2025-6-18 09:29| 查看数: 90| 评论数: 0|帖子模式

    listagg聚合之后很多重复数据,下面是解决重复数据问题


    案例表
    1. create table "dept_tag_info"
    2. (
    3. "tag_id" bigint not null,
    4. "tag_code" varchar(200),
    5. "tag_name" varchar(500),
    6. "tag_level" varchar(200),
    7. "parent_id" bigint,
    8. "gmt_create" datetime(6),
    9. "create_by" varchar(50),
    10. "update_by" varchar(50),
    11. "gmt_modified" datetime(6),
    12. "del_flag" char(1),
    13. "sort" integer,
    14. "multiple_choice" char(1),
    15. "relation_dept_category" varchar(500),
    16. "tips_text" varchar(2000),
    17. "remarks" varchar(500),
    18. "enabled" char(1),
    19. constraint "dept_tag_info_new_pk" not cluster primary key("tag_id")) storage(on "ctbiyi_data_v3", clusterbtr) ;
    20. comment on table "dept_tag_info" is '企业标签基础信息表';
    21. comment on column "dept_tag_info"."tag_id" is '主键';
    22. comment on column "dept_tag_info"."tag_code" is '标签编码';
    23. comment on column "dept_tag_info"."tag_name" is '标签名称';
    24. comment on column "dept_tag_info"."tag_level" is '标签层级';
    25. comment on column "dept_tag_info"."parent_id" is '父节点编码id';
    26. comment on column "dept_tag_info"."gmt_create" is '创建时间';
    27. comment on column "dept_tag_info"."create_by" is '创建人';
    28. comment on column "dept_tag_info"."update_by" is '修改人';
    29. comment on column "dept_tag_info"."gmt_modified" is '修改时间';
    30. comment on column "dept_tag_info"."del_flag" is '删除标记 0-未删除 1-已删除';
    31. comment on column "dept_tag_info"."sort" is '排序';
    32. comment on column "dept_tag_info"."multiple_choice" is '多选(1是 0否)';
    33. comment on column "dept_tag_info"."relation_dept_category" is '关联主体';
    复制代码
    为了方便大家看所以所有小写
    1.     select
    2.     t.tag_code,
    3.     t.tag_name,
    4.     listagg(t.tag_level, ',') within group(order by t.tag_level) as tag_levels
    5. from
    6.     dept_tag_info t
    7. group by
    8.     t.tag_code,
    9.     t.tag_name;
    复制代码
    第一种:使用wm_concat() + distinct去重聚合
    1. select
    2.     t.tag_code,
    3.     t.tag_name,
    4.     wm_concat(distinct t.tag_level) as tag_levels
    5. from
    6.     dept_tag_info t
    7. group by
    8.     t.tag_code,
    9.     t.tag_name;
    复制代码
    第二种:使用listagg,先去重,再聚合
    1. select
    2.     t.tag_code,
    3.     t.tag_name,
    4.     listagg(t.tag_level, ',') within group(order by t.tag_level) as tag_levels
    5. from
    6.     (select distinct s.tag_code, s.tag_name, s.tag_level
    7.      from dept_tag_info s) t
    8. group by
    9.     t.tag_code,
    10.     t.tag_name;
    复制代码
    第三种:xmlagg(xmlparse(content t.tag_level || ‘,’ wellformed) order by t.tag_level):

    使用 xmlagg 和 xmlparse 函数将 tag_level 字段聚合为一个用逗号分隔的字符串,并按 tag_level 排序。
    getclobval():将 xml 类型的结果转换为 clob(character large object)。
    rtrim(…, ‘,’):去掉聚合结果末尾的逗号。
    内部子查询 select distinct s.tag_code, s.tag_name, s.tag_level from dynamic_ctbiyi_v3.dept_tag_info s:
    选择唯一的 tag_code、tag_name 和 tag_level
    1. select
    2.     t.tag_code,
    3.     t.tag_name,
    4.     rtrim(
    5.         xmlagg(
    6.             xmlparse(content t.tag_level || ',' wellformed)
    7.             order by t.tag_level
    8.         ).getclobval(),
    9.         ','
    10.     ) as tag_levels
    11. from
    12.     (select distinct s.tag_code, s.tag_name, s.tag_level
    13.      from dept_tag_info s) t
    14. group by
    15.     t.tag_code,
    16.     t.tag_name;
    复制代码
    listagg 的优缺点

    优点:
    简洁和易用:LISTAGG 语法简单,易于理解和使用。
    性能较好:在许多情况下,LISTAGG 的执行速度会快于 XMLAGG,尤其是在处理较少数据量时。
    排序:支持在聚合过程中对字符串进行排序,使用 WITHIN GROUP 子句。
    缺点:
    字符串长度限制:LISTAGG 生成的字符串长度不能超过 4000 字符,如果超过这个限制,会抛出错误。
    无格式化功能:LISTAGG 仅限于字符串连接,不支持更复杂的格式化。
    xmlagg 的优缺点
    优点:
    字符串长度更大:XMLAGG 可以处理比 LISTAGG 更大的字符串,因为生成的结果是 CLOB 类型,不受 4000 字符的限制。
    灵活性:支持更复杂的 XML 处理和格式化功能,适合需要复杂字符串操作的场景。
    缺点:
    性能问题:在处理大量数据时,XMLAGG 可能比 LISTAGG 慢,因为涉及到 XML 解析和处理。
    复杂性:语法相对复杂,使用起来不如 LISTAGG 简单。
    使用 LISTAGG:当聚合后的字符串长度不超过 4000 字符时,并且只需要简单的字符串连接和排序。
    使用 XMLAGG:当聚合后的字符串长度可能超过 4000 字符,或者需要更复杂的格式化和处理时。
    根据具体需求选择合适的函数可以在保证代码简洁性和执行效率的同时,满足业务需求。
    手动处理重复数据的一种快捷安全的方式
    1. -- 查找重复记录
    2. select "tag_id", count(*) as cnt
    3. from dept_tag_info
    4. group by "tag_id"
    5. having count(*) > 1
    6. order by cnt desc;
    复制代码
    主删除语句:
    1. delete from dept_tag_info t
    2. where t.rowid in (
    3.     select rid
    4.     from (
    5.         select t1.rowid as rid, row_number() over (partition by t1.tag_code, t1.tag_name order by 1) as rn
    6.         from dept_tag_info t1
    7.     ) t2
    8.     where t2.rn > 1
    9. );
    复制代码
    如何在Oracle SQL中使用XMLAGG和LISTAGG函数进行字符串聚合。
    产品工厂聚合
    场景:你有一个名为product_details的表,里面有一个列product_factory,你希望将所有不同的产品工厂聚合成一个以逗号分隔的列表。
    1. SELECT   
    2.     RTRIM(XMLAGG(XMLPARSE(content = dd.product_factory || ',' wellformed)   
    3.     ORDER BY dd.product_factory).getclobval(), ',') AS productFactory  
    4. FROM   
    5.     product_details dd;
    复制代码

    产品名称聚合
    场景:你有另一个表product_changes,你想要聚合在特定日期后发生变化的产品名称。
    1. SELECT   
    2.     LISTAGG(dd.change_after_part_name, ',') WITHIN GROUP (ORDER BY dd.change_after_part_name) AS productName  
    3. FROM   
    4.     product_changes dd  
    5. WHERE   
    6.     dd.change_date > '2023-01-01';
    复制代码

    同时使用两者的聚合
    场景:你希望在一个查询中获取产品工厂和其相关产品名称的列表。
    1. SELECT   
    2.     RTRIM(XMLAGG(XMLPARSE(content = dd.product_factory || ',' wellformed)  
    3.     ORDER BY dd.product_factory).getclobval(), ',') AS productFactory,  
    4.     LISTAGG(cc.change_after_part_name, ',') WITHIN GROUP (ORDER BY cc.change_after_part_name) AS productName  
    5. FROM   
    6.     product_details dd  
    7. LEFT JOIN   
    8.     product_changes cc ON dd.product_id = cc.product_id  
    9. WHERE   
    10.     cc.change_date > '2023-01-01';
    复制代码

    到此这篇关于Oracle 系列数据库使用 listagg去重,删除重复数据的几种方法的文章就介绍到这了,更多相关Oracle listagg去重内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

    来源:https://www.jb51.net/database/3345374dq.htm
    免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!

    本帖子中包含更多资源

    您需要 登录 才可以下载或查看,没有账号?立即注册

    ×

    最新评论

    QQ Archiver 手机版 小黑屋 福建二哥 ( 闽ICP备2022004717号|闽公网安备35052402000345号 )

    Powered by Discuz! X3.5 © 2001-2023

    快速回复 返回顶部 返回列表