人工智能：未来技术 - 开源如何重新洗牌
资源
技术
Explosion：面向AI、机器学习和NLP的开发者工具
https://explosion.ai
专注于AI开发工具的软件公司，包括用于自然语言处理的开源库spaCy，以及面向机器学习开发者的现代标注工具Prodigy
窗口敲击机器测试
https://ines.io/blog/window-knocking-machine-test
当我们面临用技术解决人类任务时，应该自问：我是在开发窗口敲击机器还是闹钟？
Web历史对AI未来的启示
https://explosion.ai/blog/history-web-future-ai
从另一项突破性技术Web中，我们能对AI未来学到什么？
AI革命不会被垄断
https://speakerdeck.com/inesmontani/the-ai-revolution-will-not-be-monopolized
为什么开源能够战胜规模经济，即使对于生成式AI和LLMs也是如此
人类参与循环蒸馏实用指南
https://explosion.ai/blog/human-in-the-loop-distillation
为LLMs蒸馏提供实用解决方案，以创建更好、更小、更快且完全私有的组件
某机构如何利用NLP、spaCy和Prodigy提高市场透明度
https://explosion.ai/blog/sp-global-commodities
某机构利用LLMs和人类参与循环蒸馏构建结构化商品交易洞察系统的案例研究
技术内容概述
开源模型分类
专用模型
- 体积小、速度快、托管成本低
- 泛化能力不总是很好
- 需要数据进行微调
编码器模型（ELECTRA、T5）
- 相对较小且快速，托管成本可承受
- 泛化能力良好
- 需要数据进行微调
大型生成模型（Falcon、MIXTRAL）
- 体积非常大，通常较慢，托管成本高
- 泛化能力非常好
- 不需要或只需要很少的特定数据
模型蒸馏技术
人类参与循环蒸馏流程：
- 持续评估基准LLM
- 提示工程
- 迁移学习
- 蒸馏模型
- 生产部署
实际应用案例
某机构：实时从商品交易洞察中提取结构化属性
- 高安全环境
- 利用LLMs进行标注
- 借助人和模型实现10倍数据开发速度
- 6MB文件大小
- 16k+词/秒处理速度
- 99% F分数
蒸馏专用模型优势
- 模块化设计
- 可测试性
- 灵活性
- 无锁定风险
- 托管成本低廉
- 可扩展性
- 内部运行能力
- 可编程性
- 可计算性
- 透明度
核心观点
避免"窗口敲击机器"思维：在开发AI解决方案时，应该创造真正解决问题的"闹钟"，而不是复杂但低效的替代方案。
开源战胜规模经济：即使对于生成式AI和LLMs，开源模式也能通过社区协作、透明度和灵活性战胜封闭系统的规模优势。
保持雄心：在最佳实践、效率和隐私方面没有妥协的理由，AI开发应该回归到以开发过程为中心的控制模式。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
公众号二维码
公众号二维码
