当前位置: 首页 > news >正文

抱脸(huggingface)的使用姿势

抱脸(huggingface)的使用姿势

简介

抱脸huggingface.co,其实早知道他有一个很好的免费资源给到所有用户:2c16g

这个配置,也许扛不动太多的流量业务,但是足够部署各种学习和测试环境了。一直没动心思,只是因为他需要私网来访问。但是随着内存翻了几番,各家开始抠起来,就又想起来他了。

尝试几种姿势

hugging face space: https://huggingface.co/spaces

首先这里有这大量的别人公开的项目,可以多看看,知道这个space能做什么(部分是付费的)

jupyter lab

抱脸大数据,大模型,最先想到的事python,最友好的工具就是jupyter了,先试试他:

点击“new space” ,然后按照如下选择:

新建好会自动打开,登录后如下图:

  1. ipykernel 正常notebook ,如下:

  1. terminal 可以用来安装软件和包

另外需要注意,源码包映射的事/app, 而jupyterlba打开的数据目录是/data,如果想要保存ntebook,记得自己保存(下载或者挪入git)

restful api

作为一个苦逼程序员,任何时候很容易想到的,就是部署一个restful测试环境:

这个直接按照官方文档建了一个:https://huggingface.co/docs/hub/spaces-sdks-docker-first-demo

这是一个泗洪fastapi写的helloworld:

fromfastapiimportFastAPI app=FastAPI()@app.get("/")defgreet_json():return{"Hello":"yiqiu!"}

dockerfile

FROM python:3.9 RUN useradd -m -u 1000 user USER user ENV PATH="/home/user/.local/bin:$PATH" WORKDIR /app COPY --chown=user ./requirements.txt requirements.txt RUN pip install --no-cache-dir --upgrade -r requirements.txt COPY --chown=user . /app CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]

代码提交后,会自动启动:

注意,这是一个嵌入式的,想要直接当restful访问是不行,参考如下:

找到这个菜单:

打开的窗口:

这个就是独立地址,来试试:


这就是要的效果,可以用来当做后端测试了。

终极

提供的很多docker模板,就不一一测试了,来试试终极:blank

我的理解,就是可以自定义dockerfile,来试试!

新建完有了git地址,直接下载代码(就是个空的),新建一个dockerfile

FROM debian:trixie RUN apt-get update && apt-get install -y \ curl \ wget \ && rm -rf /var/lib/apt/lists/* RUN curl -fsSL -o /usr/local/bin/ttyd https://github.com/tsl0922/ttyd/releases/download/1.7.7/ttyd.x86_64 && \ chmod +x /usr/local/bin/ttyd ENTRYPOINT ["/usr/local/bin/ttyd","-p","7860","-W","/usr/bin/bash"]

就是一debian为基,装了个webssh,提交代码(push),然后系统会自动开始启动:

成了!!

装了几个软件,看看资源,一切正常,可惜,docker in docker 没有……

好了,现在可以发挥创造力了!!!!

小结

抱脸,还是值得找个私网来访问的,毕竟现在存储那么贵,各家都开始扣起来了,他的价值也慢慢体现……

微信公众号:

https://mp.weixin.qq.com/s/a_Y4yqk4ZO_UBcXiZPc-7Q

http://www.jsqmd.com/news/222954/

相关文章:

  • Qwen2.5-7B能否处理复杂逻辑?结构化输出实战验证
  • Qwen2.5-7B推理成本优化:降低GPU消耗的7种方法
  • 基于大数据的心脏病数据分析系统【附源码+文档】
  • Qwen2.5-7B镜像测评:多场景推理稳定性实操评估
  • Packet Tracer汉化系统学习:全面讲解每一步骤
  • 基于协同过滤算法的特产销售系统【附源码+文档】
  • Qwen2.5-7B部署手册:高可用推理服务架构设计
  • Qwen2.5-7B自动摘要:长文档精简技巧
  • Qwen2.5-7B开源部署完整指南:支持8K生成长度配置
  • 诺亚财富汪静波:在通胀的现实里守住现金流,在通缩的未来里捕获红利
  • PCIe高速通道布局布线思路详解
  • Qwen2.5-7B部署指南:混合精度推理配置最佳实践
  • 开源大模型选型指南:Qwen2.5-7B在企业落地中的优势分析
  • Qwen2.5-7B多模态扩展:文本与结构化数据联合处理
  • LED阵列汉字显示实验:共阴与共阳结构差异通俗解释
  • Qwen2.5-7B与Qwen2性能对比:编程任务执行效率实测
  • Qwen2.5-7B开源生态:社区贡献与协作指南
  • Wallcraft 3.59.01| 最强4K超高清壁纸软件,动态4D壁纸
  • 腾讯混元4B开源:256K上下文+混合推理黑科技
  • 小白友好教程:在Cursor接入GMI Cloud Inference Engine平台的API
  • Qwen2.5-7B长文本处理:128K上下文实战应用案例
  • 24l01话筒硬件引脚功能解析及电路设计要点
  • Qwen2.5-7B支持哪些语言?多语种输出测试与调用指南
  • Qwen3思维引擎2507:30B参数AI推理大进化
  • 基于图像处理的水果表面缺陷质量检测:用于缺陷水果分选的机器学习算法研究(Matlab代码实现)
  • Qwen2.5-7B性能测试:多语言场景下的响应速度对比
  • Qwen2.5-7B显存不足怎么办?高效GPU优化部署实战指南
  • 基于工业视觉的电子板卡一致性检测(PCB电子板卡工业视觉一致性检测)研究(Matlab代码实现)
  • 判断一个链表是否为回文结构
  • 新手教程:Elasticsearch基本用法中的文档操作指南