当前位置: 首页 > news >正文

相同文件按优先级取唯一值

问题:我有三个文件,字段名都一样,如果不重复就union到一起,如果有重复,按类型优先级取唯一值,用python实现

import pandas as pd from datetime import date import time today=str(date.today()) filepath='/Users/kangyongqing/Documents/kangyq/202207/课消管理看板/2023Q3课消/亚欧课消11月/课消定标方案新版/202604课消定标/' file1='/Users/kangyongqing/Documents/kangyq/202207/课消管理看板/2023Q3课消/亚欧课消11月/课消定标方案新版/202604课消定标/课消定标方案新版2026-03-25.xlsx' file2='/Users/kangyongqing/Documents/kangyq/202207/课消管理看板/2023Q3课消/亚欧课消11月/课消定标方案新版/202604课消定标/4月基地定标/课消定标方案新版-基地2026-03-30.xlsx' file3='/Users/kangyongqing/Documents/kangyq/202207/课消管理看板/2023Q3课消/亚欧课消11月/课消定标方案新版/202604课消定标/4月新兼职定标/课消定标方案新版-新兼职2026-03-30.xlsx' df1=pd.read_excel(file1,usecols=['student_user_id', 'real_name', 'age','最终标值']) df1['type']='大盘' print(df1.head(2)) df2=pd.read_excel(file2,usecols=['student_user_id', 'real_name', 'age','最终标值']) df2['type']='基地' print(df2.head(2)) df3=pd.read_excel(file3,usecols=['student_user_id', 'real_name', 'age','最终标值']) df3['type']='新兼职' print(df3.head(2)) df_all=pd.concat([df1,df2,df3],ignore_index=True) print(df_all.head()) # 定义优先级映射(数字越小优先级越高) priority_map = { '基地': 1, '新兼职': 2, '大盘': 3 } # 定义去重函数:按优先级取唯一值 def dedup_by_priority(df, key_col='student_user_id', priority_col='type'): # 添加优先级数值列 df['priority_num'] = df[priority_col].map(priority_map) # 按 key_col 分组,取 priority_num 最小的行 df_dedup = df.loc[df.groupby(key_col)['priority_num'].idxmin()] # 删除临时列 df_dedup = df_dedup.drop(columns=['priority_num']) return df_dedup # 执行去重 result = dedup_by_priority(df_all, key_col='student_user_id', priority_col='type') result['student_user_id']=result['student_user_id'].astype('int64').astype('str') # 输出结果 result.to_excel(filepath+f'课消定标方案dm库上传取唯一值{today}.xlsx', index=False) print("去重合并完成")

结果展示:

http://www.jsqmd.com/news/614680/

相关文章:

  • 清明出游带火“吃喝玩乐”齐增长 美团旅行:南京、成都、北京为热门出游目的地
  • 2026精油灌装机高性价比品牌评选TOP6
  • AScript - C#轻量级动态脚本引擎
  • AI Weekly | 2026年4月第二周 · GitHub热门项目与AI发展趋势深度解析
  • 收藏!Agent开发高频面试题深度解析,小白也能轻松入门大模型应用
  • 【EF Core 10向量搜索架构设计终极指南】:20年微软数据平台架构师亲授生产级向量检索系统落地的5大避坑原则
  • django基于Spark的南昌房价数据分析系统的设计与实现_45i0b357_c018
  • (27)ArcGIS Pro 范围内汇总、汇总统计数据与交集制表:空间统计三工具全攻略
  • 谷歌Gemma 4 MoE实测
  • Agent Client Protocol 全景解析涛
  • Cursor vs Claude Code:2026 年 AI 编程工具巅峰对决
  • 25大数据 6-1 for循环
  • 经典知识点
  • 【Loom生产级落地红线】:3家头部金融系统血泪总结——4类不可逆崩溃场景预警
  • 城固县哪里买家电靠谱?优选城固金诺家电,性价比高,服务好! - 一个呆呆
  • 从零入门大模型:收藏这份AI智能体框架选型指南,小白也能轻松上手!
  • 一次会员积分系统改造复盘:从同步阻塞到异步解耦的演进与多级缓存一致性保障
  • PHP医疗数据脱敏配置标准落地手册(国家卫健委《医疗卫生信息系统安全规范》V3.2官方解读版)
  • 推荐一家专业做标签打印软件
  • Java与易语言:编程世界的两大差异
  • SQL Server 2008 R2 企业级安全审计方案(适配版)
  • 照片太多想批量提取名称?4招快速批量提取照片名字,小白也能秒会!
  • 次元画室赋能微信小程序:快速开发AI绘画社交应用
  • Matlab/Simulink仿真的PQ控制的跟网型储能系统,有控制环路,未考虑锁相环,dq阻抗扫频
  • AI小白必看:微调、RAG、Agent一次讲清,轻松入门大模型(收藏版)
  • 单片机作业4.8
  • django基于Python主流汽车价格分析可视化系统的设计与实现_nf85t54h_zl089
  • 初始Flask框架
  • AI Agent Harness Engineering 未来技术突破点:自主进化与跨域协作的研究方向
  • 仅限PHP 8.9.0+可用!3个未公开的SAPI层缓冲区参数,让500MB日志分析从32s压缩至1.8s