当前位置：首页 > news >正文

CTF逆向中的‘套路’总结：花指令、变表Base64、随机数种子，这些坑你踩过吗？

news 2026/5/3 4:46:07

CTF逆向工程中的高频套路解析：从混淆到伪随机数的实战拆解

逆向工程作为网络安全竞赛的核心赛道之一，始终保持着极高的技术含量与挑战性。本文将深入剖析CTF逆向题目中反复出现的三类典型套路——花指令混淆、变表Base64编码以及固定种子伪随机数，通过真实赛题案例还原出题思路，提供可复用的解题方法论，并附赠经过实战检验的脚本模板。

1. 花指令混淆：静态分析的噩梦

花指令（Junk Code）本质上是插入正常代码中的无效指令序列，通过干扰反汇编器的解析逻辑来增加静态分析难度。在2021年GFCTF的wordy题目中，出题者使用了经典的EB FF跳转组合（对应机器码为jmp short $+1），导致IDA等工具无法正确识别函数边界。

1.1 识别特征

反编译视图出现大量红色异常代码块
函数内存在无效跳转指令（如jmp到下一行）
关键代码段被无意义指令包围（常见nop、int3变种）

1.2 自动化处理方案

使用IDAPython脚本批量清除干扰指令：

start = 0x1135 end = 0x3100 for i in range(start,end): if get_wide_byte(i) == 0xEB and get_wide_byte(i+1) == 0xFF: patch_byte(i, 0x90) # 替换为nop

1.3 实战技巧

动态调试优先：在OllyDbg/x64dbg中直接运行到OEP（Original Entry Point）
模式识别：注意call $+5、push ret等常见花指令模式
数据重建：对加密字符串可编写提取脚本：

for i in range(start_addr, end_addr): if get_wide_byte(i) == 0xC0: print(chr(get_byte(i+2)), end='')

2. 变表Base64：自定义编码的陷阱

标准Base64使用ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/作为编码表，而出题者往往会修改该表增加破解难度。2023年LitCTF的enbase64题目不仅替换了编码表，还进行了48轮循环置换。

2.1 变表还原技术

通过逆向算法重建动态编码表：

v3 = [16,34,56,7,46,2,10,44,20,41,59,31,...] # 置换索引 original = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/" for _ in range(48): # 循环轮次 new_table = [] for j in range(64): new_table.append(original[v3[j]]) original = ''.join(new_table) print(original) # 输出最终变表

2.2 解密脚本模板

import base64 custom_table = "gJ1BRjQie/FIWhEslq7GxbnL26M4+HXUtcpmVTKaydOP38of5v90ZSwrkYzCAuND" standard_table = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/" cipher = "GQTZlSqQXZ/ghxxwhju3hbuZ4wufWjujWrhYe7Rce7ju" # 变表转换→标准Base64解码 plain = base64.b64decode(cipher.translate(str.maketrans(custom_table, standard_table))) print(plain.decode())

2.3 进阶变种

轮换变表：不同加密轮次使用不同编码表（需跟踪表变化轨迹）
分段变表：明文字符的不同位置采用不同编码表
动态生成：编码表由密钥计算得出（需逆向密钥生成算法）

3. 伪随机数陷阱：种子决定性的破解

伪随机数生成器（PRNG）在给定相同种子时会产生完全相同的序列。2022年NISACTF的string题目利用srand(0x2766)初始化种子，使得后续rand()结果可预测。

3.1 随机数逆向要点

识别种子设置：查找srand()调用参数
平台差异性：Windows/Linux的rand()实现不同
算法还原：常见为线性同余生成器（LCG）

3.2 通用解密脚本

#include <stdio.h> #include <stdlib.h> int main() { srand(0x2766); // 固定种子 printf("Flag{"); for(int i=0; i<13; ++i) { printf("%d", rand()%8 + 1); // 模拟题目逻辑 } printf("}\n"); return 0; }

3.3 扩展应用场景

随机数参与加密：如异或操作、数组索引等
多线程随机数：注意线程安全函数（如rand_r）
时间戳种子：需爆破时间范围（精确到秒级）

4. 复合型题目解题框架

实际赛题常组合多种技术，例如NSSRound#3的jump_by_jump_revenge就同时包含：

花指令干扰静态分析
模运算加密（(input[i]+input[k])%96+32）

4.1 综合解题步骤

去花指令：IDA手动修复或脚本批量处理
算法逆向：定位关键加密函数
动态验证：通过调试确认数据流向
编写解密：注意运算的不可逆性处理

4.2 模运算爆破示例

cipher = ['~','4','G','~','M',':','=','W','V','7','i','X',...] for i in range(len(cipher)-1, -1, -1): k = (i*i + 123) % 21 # 计算关联位置 for j in range(3): # 模数96最多需要尝试3次 x = (ord(cipher[i]) - 32 + j*96 - ord(cipher[k])) if 33 <= x <= 126: # 可打印字符校验 cipher[i] = chr(x) break print(''.join(cipher))