foundationstereo模型的安装部署与运行

• 硬件：RTX5060(8GB显存) + Intel(R) Core(TM) i7-14650HX + 32GB内存
• nvidia环境：驱动 580.126.09 + CUDA Version 12.8

1. 安装torch

由于显卡架构 sm_120 原因，官方提供的包在后续编译第三方库时会有环境兼容问题，仍然采用nightly支持版本

#1 创建 conda 环境，手动删除 torch torchision，编译第三方库 conda env create -f environment.yml conda activate foundation_stereo #2 手动安装 torch torchision pip3 install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128

2. 安装 flash-attn

export TORCH_CUDA_ARCH_LIST="12.0" pip install git+GitHub - Dao-AILab/flash-attention: Fast and memory-efficient exact attention --no-build-isolation

这一步比较耗时间，和RAM大小有关。如果内存过小会出现系统死机，这时可以设置进程数降低RAM占用，但时间也会进一步增加

# 数字视情况而定 export JBOS_MAX = 1

3. 检查一下环境是否success

python - <<'PY' import torch from flash_attn import flash_attn_func q=torch.randn(1,128,8,64,device="cuda",dtype=torch.float16) k=torch.randn(1,128,8,64,device="cuda",dtype=torch.float16) v=torch.randn(1,128,8,64,device="cuda",dtype=torch.float16) o=flash_attn_func(q,k,v) print("output device:",o.device) print("dtype:",o.dtype) PY

4. demo运行之后，会遇到报错

ValueError: Unknown scheme for proxy URL URL('socks://127.0.0.1:7897/')

这个错误通常是因为系统里设置了代理环境变量，而httpx库无法识别socks://这种简写格式

解决方式为

export all_proxy=socks5://127.0.0.1:7897 export ALL_PROXY=socks5://127.0.0.1:7897

然后再运行demo脚本，报错即可解决

5. bug修复

除此之外，运行还有可能会碰到错误

UnpicklingError: Weights only load failed. This file can still be loaded, to do so you have two options, do those steps only if you trust the source of the checkpoint.

解决方法为

找到代码第62行附近

ckpt = torch.load(ckpt_dir)

增加weights_only参数

ckpt = torch.load(ckpt_dir, weights_only=False)