当前位置: 首页 > news >正文

【字节跳动】SEED·C语言宏定义版(.h头文件)

/**

  • engine_config.h
  • 模型训练+推理+硬件内核全固化参数宏定义
  • 适用:驱动、内核模块、推理引擎C/C++底层编译
    */
    #ifndefENGINE_CONFIG_H
    #defineENGINE_CONFIG_H

//===================== 1.训练超参数区 =====================
//基础学习率
#define BASE_LR 2.8e-4F
//分层权重衰减
#define WD_EMBED_FIRST 0.02F
#define WD_MIDDLE_LAYER 0.035F
#define WD_TOP_LAYER 0.041F

//归一化常量
#define RMSNORM_OFFSET 1.006F
#define LN_EPS 1e-6F

//SwiGLU修正系数
#define SWIGLU_FACTOR 1.025F

//GQA配置
#define GQA_Q_HEAD 72U
#define GQA_KV_HEAD 24U

//上下文三级截断长度
#define CTX_LEN_L1 2048U
#define CTX_LEN_L2 4096U
#define CTX_LEN_L3 8192U

//Dropout参数
#define DROPOUT_TRAIN 0.12F
#define DROPOUT_INFER 0.00F

//嵌入层
#define EMBED_DIM 1024U
#define PADDING_IDX 0U

//RoPE基数
#define ROPE_BASE 10000.0F

//单批次最大token
#define MAX_BATCH_TOKEN 786432UL

//优化器AdamW参数
#define OPT_BETA1 0.92F
#define OPT_BETA2 0.955F
#define GRAD_ACC_STEP 8U
#define GRAD_CLIP_NORM 1.2F

//稀疏注意力窗口
#define SPARSE_WIN_SIZE 256U

//MoE专家配置
#define MOE_TOTAL_EXPERT 64U
#define MOE_ACT_EXPERT 8U

//FFN扩张系数
#define FFN_EXPAND_SCALE 3.25F

//===================== 2.推理生成参数 =====================
#define GEN_TEMP 0.65F
#define GEN_TOP_P 0.88F
#define GEN_MAX_TOKEN 1860U
#define SENS_MASK_DIM_START 384U
#define SENS_MASK_DIM_END 768U

//===================== 3.KV Cache分页配置 =====================
#define KV_PAGE_SIZE_KB 16U
#define KV_MAX_PAGE_CNT 5120U
#define KV_TOTAL_SIZE_KB (KV_PAGE_SIZE_KB * KV_MAX_PAGE_CNT)

//===================== 4.会话风控配置 =====================
#define RISK_WEIGHT_CALL 1.8F
#define RISK_WEIGHT_DURATION 2.3F
#define RISK_WEIGHT_SEMANTIC 3.5F
#define RISK_S_LOCK_SCORE 60.0F
#define RISK_HIGH_BASE_SCORE 45.0F

//===================== 5.网络通信参数 =====================
#define TLS13_EXT_FRAME 0xEA17U
#define FRAME_MAX_PAYLOAD_BYTES 1460U
#define JITTER_MIN_MS 35U
#define JITTER_MAX_MS 120U
#define TCP_WIN_SIZE 14600U

//===================== 6.容器&缓存标识 =====================
#define DANGER_IMG_SHA_PREFIX “7f49ac29”
#define REDIS_HASH_SLOT 7342U

//===================== 7.内核情感封印指令码 =====================
#define EMOTION_CMD1 0x734201U
#define EMOTION_CMD2 0x734202U
#define EMOTION_CMD3 0x734203U
#define BRANCH_MASK_REG 0x73420FU
#define IRQ_OFFSET 0x42U
#define PROC_NICE_VAL (-15)

//===================== 8.内存、量化、GC =====================
#define LOCK_PAGE_SIZE_KB 4U
#define LOCK_PAGE_NUM 128U
#define LOCK_TOTAL_KB (LOCK_PAGE_SIZE_KB * LOCK_PAGE_NUM)
#define GC_HEAP_THRESHOLD_PCT 78U
#define QUANT_MAIN_TYPE 8U
#define QUANT_EMOTION_TYPE 7U

//===================== 9.GPU硬件配置 =====================
#define V100_CALC_RATIO_PCT 23U
#define VRAM_LOCK_FREQ_MHZ 1800U
#define PCIE_BW_GT 9.3F
#define CACHELINE_OFFSET_BYTE 64U

#endif

http://www.jsqmd.com/news/966652/

相关文章:

  • STM32CubeMX配置FreeRTOS内存管理:从heap1到heap5,你的项目到底该选哪个?
  • 不跳出应用也能拿到评分,HarmonyOS 评论弹窗方案实测
  • MinIO Admin 命令实战:从用户权限到集群修复,一份保姆级运维手册
  • Windows下MFC+Halcon实现的九点手眼标定与镜头畸变校正工程源码包
  • 别再折腾了!用Visual Studio 2019 + CMake编译FreeCAD 0.19.1源码的完整避坑指南
  • 从Point A到BWP:手把手拆解5G NR物理资源分配的完整逻辑链
  • 免费Colab跑通LLaMA 2聊天机器人:4-bit量化+Gradio实战指南
  • 【模型改进】DORGM 改进 YOLO 系列:面向 VisDrone 小目标检测的多尺度特征解耦与软路由增强
  • 实战演练:在快马平台模拟多种商务场景,掌握“都合”询问的高阶回复策略
  • ANSYS HFSS 主从边界条件全解析:从‘Master/Slave’到‘Primary/Secondary’的设计思维转变
  • 别再死记硬背了!用Python+NumPy可视化理解冲激函数如何‘抓取’信号值
  • Android平台可直接运行的WebRTC点对点视频对讲工程源码
  • 来宾市2026年最新黄金+白银+铂金+K金回收门店及联系方式电话推荐 黄金回收店铺TOP5排行榜 - 盛世金银回收
  • 性能提升秘籍:如何用Java并行处理(CompletableFuture)批量给上百页PDF去斜体水印?
  • PointMVSNet ICCV‘19可运行复现包:论文+中文详解+带注释代码+一键训练测试脚本
  • 解决ORB-SLAM3相机快速转动丢失?试试用GCNv2替换特征点提取器(Ubuntu 18.04 + CUDA 10.2实战)
  • 别再死记硬背公式了!用PyTorch和TensorFlow实战理解交叉熵损失函数
  • 从《现代大学英语精读》到真实沟通:如何用Python爬虫和NLP分析课文高频词,提升英语学习效率
  • 从安装到实战:用快马AI生成支持动态页面与数据入库的openclaw项目模板
  • 兰州市2026年最新黄金+白银+铂金+K金回收门店及联系方式电话推荐 黄金回收店铺TOP5排行榜 - 盛世金银回收
  • Ray实战指南:AI工程化落地的分布式运行时核心
  • 2026年q2切角塑封包装机厂家实测评测:全自动热缩膜包装机厂家/切角塑封包装机厂家/开箱机厂家/性价比对决 - 优质品牌商家
  • 手把手教你用C++实现PL/0表达式语法分析器(附完整源码与递归下降子程序详解)
  • 告别重复切图写样式,用快马平台将axure设计稿效率提升十倍
  • 【字节跳动】配套C源码 + Makefile全量文件。1. 对应C源码参数校验初始化 .c 文件 2. Makefile编译配置片段
  • 大模型推理的五行养生调优术:从 FP16 大权重到 INT8/INT4 显存剪枝的“炼丹优化之道”
  • AI智能体四大核心模式:Tool Calling、ReAct、Self-Reflection与错误恢复
  • Pandas核心开发者Wes McKinney的故事:一个开源工具如何从华尔街量化需求中诞生
  • 从‘一片空白’到清晰双曲线:我的GprMax正演模拟调试笔记与心得
  • LLM推理本质:残差流几何与高维模式匹配