使用VMware虚拟机部署FireRedASR-AED-L开发环境

使用VMware虚拟机部署FireRedASR-AED-L开发环境

1. 环境准备与系统安装

在开始部署FireRedASR-AED-L之前，我们需要先准备好VMware虚拟机和合适的操作系统环境。FireRedASR-AED-L是一个工业级的语音识别模型，对计算资源有一定要求，特别是GPU的支持很重要。

首先下载并安装最新版本的VMware Workstation Player或Pro版本。建议使用16.x或更高版本，这些版本对现代GPU的直通支持更好。安装过程很简单，基本上就是下一步到底，这里就不赘述了。

接下来需要选择操作系统。推荐使用Ubuntu 20.04 LTS或22.04 LTS，这两个版本对深度学习框架的支持都比较成熟。下载系统镜像后，在VMware中创建新的虚拟机：

# 创建虚拟机的基本配置建议 - 名称：FireRedASR-Dev - 操作系统：Linux Ubuntu 64位 - 处理器：至少4核（越多越好） - 内存：至少16GB（推荐32GB） - 硬盘：至少100GB（语音数据处理需要较大空间） - 网络：NAT或桥接模式

安装Ubuntu系统时，记得选择"安装Ubuntu时下载更新"和"安装第三方软件"，这样可以省去后续手动安装驱动的时间。系统安装完成后，首先更新软件包：

sudo apt update && sudo apt upgrade -y

2. GPU环境配置

FireRedASR-AED-L支持GPU加速，配置好GPU环境能大幅提升模型运行效率。首先检查VMware中是否已启用GPU直通功能。

在VMware虚拟机设置中，找到"显示器"选项，确保已选择"加速3D图形"。然后安装NVIDIA驱动（如果你使用NVIDIA显卡）：

# 添加NVIDIA驱动仓库 sudo add-apt-repository ppa:graphics-drivers/ppa sudo apt update # 查找推荐的驱动版本 ubuntu-drivers devices # 安装推荐版本的驱动 sudo apt install nvidia-driver-535 -y # 重启系统使驱动生效 sudo reboot

重启后验证驱动是否安装成功：

nvidia-smi

如果能看到GPU信息，说明驱动安装成功。接下来安装CUDA工具包，FireRedASR-AED-L推荐使用CUDA 11.8或12.x：

# 下载并安装CUDA 11.8 wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run sudo sh cuda_11.8.0_520.61.05_linux.run

安装过程中记得选择安装CUDA Toolkit，并将CUDA添加到环境变量中：

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc

3. 开发环境搭建

现在开始配置Python开发环境。FireRedASR-AED-L需要Python 3.8-3.10版本，我们使用conda来管理环境：

# 下载并安装Miniconda wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh # 创建专门的conda环境 conda create -n fireredasr python=3.10 -y conda activate fireredasr

接下来克隆FireRedASR项目并安装依赖：

# 克隆项目代码 git clone https://github.com/FireRedTeam/FireRedASR.git cd FireRedASR # 安装所需依赖 pip install -r requirements.txt # 设置环境变量 export PATH=$PWD/fireredasr/:$PWD/fireredasr/utils/:$PATH export PYTHONPATH=$PWD/:$PYTHONPATH

还需要安装一些额外的音频处理工具：

# 安装FFmpeg用于音频格式转换 sudo apt install ffmpeg -y # 安装音频处理库 pip install soundfile librosa

4. 模型下载与配置

FireRedASR-AED-L的模型文件需要从Hugging Face下载。在项目目录下创建pretrained_models文件夹：

mkdir -p pretrained_models/FireRedASR-AED-L cd pretrained_models/FireRedASR-AED-L

从Hugging Face下载模型文件（需要先安装git-lfs）：

# 安装git-lfs sudo apt install git-lfs -y git lfs install # 下载模型文件 git clone https://huggingface.co/FireRedTeam/FireRedASR-AED-L .

下载完成后，回到项目根目录，测试模型是否能正常加载：

# 简单的测试脚本 test_load.py from fireredasr.models.fireredasr import FireRedAsr try: model = FireRedAsr.from_pretrained("aed", "pretrained_models/FireRedASR-AED-L") print("模型加载成功！") print(f"模型参数数量：{sum(p.numel() for p in model.parameters()):,}") except Exception as e: print(f"模型加载失败：{e}")

运行测试脚本：

python test_load.py

如果看到"模型加载成功"的消息，说明环境配置正确。

5. 快速测试与验证

现在我们来运行一个简单的语音识别测试。首先准备一个测试音频文件：

# 创建测试目录 mkdir -p test_audio # 下载示例音频（如果没有现成的音频文件） wget -O test_audio/sample.wav https://example.com/sample_audio.wav # 如果下载失败，可以用sox生成一个测试音频 sudo apt install sox -y sox -n -r 16000 -c 1 test_audio/test.wav synth 3 sine 440

运行语音识别测试：

# 测试脚本 test_inference.py from fireredasr.models.fireredasr import FireRedAsr # 初始化模型 model = FireRedAsr.from_pretrained("aed", "pretrained_models/FireRedASR-AED-L") # 准备测试数据 batch_uttid = ["test_001"] batch_wav_path = ["test_audio/test.wav"] # 进行语音识别 results = model.transcribe( batch_uttid, batch_wav_path, { "use_gpu": 1, # 使用GPU "beam_size": 3, "nbest": 1, "decode_max_len": 0, "softmax_smoothing": 1.0, "aed_length_penalty": 0.0, "eos_penalty": 1.0 } ) print("识别结果：") print(results)

运行测试：

python test_inference.py

6. 性能优化建议

在VMware虚拟机中运行深度学习模型，性能优化很重要。这里有几个实用的优化建议：

虚拟机配置优化：

• 在VMware设置中分配尽可能多的CPU核心和内存
• 启用虚拟化CPU性能计数器
• 调整显卡内存为最大可用值

系统级优化：

# 安装性能监控工具 sudo apt install htop nvtop -y # 调整Swappiness值 echo 'vm.swappiness=10' | sudo tee -a /etc/sysctl.conf # 提高文件打开限制 echo '* soft nofile 65536' | sudo tee -a /etc/security/limits.conf echo '* hard nofile 65536' | sudo tee -a /etc/security/limits.conf

模型推理优化：

# 使用批处理提高GPU利用率 batch_uttid = ["utt1", "utt2", "utt3", "utt4"] batch_wav_path = ["audio1.wav", "audio2.wav", "audio3.wav", "audio4.wav"] # 调整beam size平衡速度与精度 optimized_config = { "use_gpu": 1, "beam_size": 3, # 较小的beam size更快但精度略低 "batch_size": 4, # 根据GPU内存调整 "decode_max_len": 0, "softmax_smoothing": 1.0 }

7. 常见问题解决

在部署过程中可能会遇到一些问题，这里列出几个常见问题的解决方法：

问题1：CUDA out of memory

# 解决方法：减小batch size或使用CPU模式 config = { "use_gpu": 0, # 切换到CPU模式 "batch_size": 1 # 减小批处理大小 }

问题2：音频格式不支持

# 使用FFmpeg转换音频格式 ffmpeg -i input_audio.mp3 -ar 16000 -ac 1 -acodec pcm_s16le output.wav

问题3：模型加载失败

# 检查模型文件是否完整 ls -la pretrained_models/FireRedASR-AED-L/ # 重新下载缺失的文件 cd pretrained_models/FireRedASR-AED-L/ git lfs pull

问题4：GPU无法识别

# 检查VMware GPU直通设置 nvidia-smi # 重新安装驱动 sudo apt purge nvidia-* sudo apt install nvidia-driver-535

8. 总结

整体部署下来，VMware虚拟机运行FireRedASR-AED-L还是相当顺畅的。关键是要把GPU直通配置好，这对模型推理速度影响很大。Ubuntu系统的兼容性很好，各种驱动和依赖安装都比较顺利。

在实际使用中，建议根据你的硬件情况调整批处理大小和beam search参数，找到速度和精度的最佳平衡点。如果只是做开发和测试，虚拟机的性能完全够用，但如果是生产环境，可能还是需要考虑物理机部署。

记得定期更新驱动和框架版本，深度学习领域更新很快，保持环境更新能获得更好的性能和兼容性。如果遇到问题，可以查看项目的GitHub issue页面，很多常见问题都有解决方案。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。