Hugging Face 直跑3万+ LoRA模型的技术实现

LoRA已成为训练图像模型以表达特定概念或风格的主流方式。比如生成吉卜力工作室风格的静帧，或捕捉80年代赛博朋克的氛围。

Hugging Face是分享和使用LoRA模型的首选平台。艺术家、研究人员和爱好者们将他们的定制风格上传至此，使其易于被任何人使用。如今，它已发展成为全球最大的开源LoRA模型集合之一。

现在，通过使用某机构的推理服务，LoRA模型可以直接在Hugging Face Hub上运行。这得益于对Hugging Face推理客户端的一个小更新，该更新在后台连接到该机构的服务。最终成果是：您可以直接在Hugging Face界面上，以快速、低成本的方式运行您喜爱的LoRA模型。

工作原理

当您在Hugging Face上选择一个受支持的LoRA模型，并选择某机构作为推理提供商时，Hugging Face会将请求路由到该机构的black-forest-labs/flux-dev-lora模型。系统将请求的LoRA作为动态输入，通过lora_weights参数传递给该模型。

这意味着每一个LoRA模型都共享该机构上的同一个后端模型，系统会即时动态地替换成正确的权重。例如：

constinput={prompt:"style of 80s cyberpunk, a portrait photo",lora_weights:"https://huggingface.co/fofr/flux-80s-cyberpunk",};constoutput=awaitreplicate.run("black-forest-labs/flux-dev-lora",{input});

这种方法使得该服务能够支持Hugging Face Flux库中的所有LoRA模型，而无需为每一个模型都单独部署一个托管模型。

立即尝试

您可以在Hugging Face上浏览所有受支持的LoRA模型（数量非常多）。FINISHED
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）