Typhoon OCR 1.5 2B 8位量化模型：苹果芯片上的终极泰英文档OCR解决方案
Typhoon OCR 1.5 2B 8位量化模型：苹果芯片上的终极泰英文档OCR解决方案
【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit
Typhoon OCR 1.5 2B 8位量化模型是一款基于Qwen3-VL架构的视觉语言模型，专为苹果芯片优化，提供高效精准的泰英文档识别能力。该模型通过8位量化技术，在保持识别精度的同时将体积压缩至约2.5GB，实现了在Apple Silicon设备上的快速部署与运行。
核心特性：专为泰英文档设计的OCR解决方案
多语言支持与结构化输出
作为基于Qwen3-VL架构的视觉语言模型，Typhoon OCR 1.5 2B专注于泰语和英语的文档理解任务。其输出采用结构化格式，包括Markdown文本、HTML表格、LaTeX公式、图片描述标签和页码标记，满足专业文档处理需求。
8位量化技术：平衡性能与效率
该模型采用8位量化（组大小64，仿射模式），实现约9.94位/权重的精度，同时保持视觉编码器的高 precision。这一优化使模型体积减少约50%，却不损失OCR识别 accuracy，特别适合内存受限的苹果芯片设备。
快速上手：简单三步开始使用
1. 安装依赖
通过pip命令快速安装mlx-vlm库：
pip install -U mlx-vlm2. 准备官方提示词
创建prompt.txt文件，复制以下官方提示词（确保完整保留格式）：
Extract all text from the image. Instructions: - Only return the clean Markdown. - Do not include any explanation or extra text. - You must include all information on the page. Formatting Rules: - Tables: Render tables using <table>...</table> in clean HTML format. - Equations: Render equations using LaTeX syntax with inline ($...$) and block ($$...$$). - Images/Charts/Diagrams: Wrap any clearly defined visual areas in <figure>...</figure> with Thai descriptions. - Page Numbers: Wrap page numbers in <page_number>...</page_number>. - Checkboxes: Use the unchecked / checked box characters as appropriate.3. 运行OCR识别
执行以下命令处理图片文件（将page.jpg替换为实际图片路径）：
python -m mlx_vlm.generate \ --model mlx-community/typhoon-ocr1.5-2b-8bit \ --image page.jpg \ --prompt "$(cat prompt.txt)" \ --max-tokens 4096 \ --temperature 0.0 \ --repetition-penalty 1.1优化参数设置：获取最佳识别效果
为确保文档提取的准确性，建议使用以下参数组合：
| 参数 | 推荐值 | 说明 |
|---|---|---|
temperature | 0.0 | 确定性解码，避免字符幻觉 |
repetition_penalty | 1.1 | 防止表格单元格重复循环 |
max_tokens | 4096 | 为密集页面提供充足空间 |
top_p | 0.6 | 仅在温度>0时生效 |
图片处理建议：对于A4文档，推荐长边分辨率1500-2000像素以保证小字体清晰，16GB内存设备应避免超大型图片以防内存不足。
模型转换指南（高级用户）
如需从基础模型自行转换，可使用以下命令：
python -m mlx_vlm convert \ --hf-path typhoon-ai/typhoon-ocr1.5-2b \ --mlx-path typhoon-ocr1.5-2b-8bit \ -q --q-bits 8 --q-group-size 64许可证信息
本模型采用Apache-2.0许可证，继承自基础模型typhoon-ai/typhoon-ocr1.5-2b。
项目文件结构
模型包含以下核心文件：
- 配置文件：config.json、generation_config.json
- 量化信息：quantization_config
- 分词器配置：tokenizer_config.json、vocab.json
通过这些优化设计，Typhoon OCR 1.5 2B 8位量化模型为苹果芯片用户提供了一个高效、精准的泰英文档OCR解决方案，特别适合需要处理多语言文档的专业人士和企业用户。
【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考