018、语音合成安全与伦理：深度伪造防御与负责任 AI

上周排查一个线上问题，用户反馈说我们的TTS服务生成的语音“听起来像在念银行验证码”。团队一开始以为是韵律模型崩了，调了一整天参数没效果。最后发现是有人故意在输入文本里嵌了Unicode控制字符，导致前端渲染时触发了语音参数的异常重置。这事让我背后发凉——如果攻击者用的不是控制字符，而是精心构造的韵律标记呢？如果生成的语音被用于伪造身份验证呢？

一、TTS系统的攻击面比想象中宽

很多人觉得语音合成就是个文本进、音频出的黑盒子，其实 pipeline 里每个环节都能动手脚。看看这个真实案例的简化代码：

// 危险示例：直接拼接SSML标签voidgenerate_ssml_naive(char*text,char*output)