当前位置: 首页 > news >正文

上位机知识篇---部署过程小知识点(1)

TOPS/TFLOPS:

TOPSTera Operations Per Second(每秒万亿次操作)的缩写,它是衡量 AI 处理器整数推理性能的核心单位。

简单说,1 TOPS 意味着处理器每秒能完成 1 万亿次(10^12)整数运算。数值越高,AI 模型的推理速度越快,每秒能处理的图像、语音数据也越多。

🧠 为什么用它衡量 AI 性能?

这主要和 AI 推理的计算特点有关:

  • AI 模型需要的是整数运算:图像识别、语音分析这类推理任务,通常使用的是INT8(8位整数)精度。用整数算既快又省电,对精度影响也微乎其微。TOPS 衡量的正是这种 INT8 计算能力。

  • 和 GPU 的 TFLOPS 有区别:TFLOPS(每秒万亿次浮点运算)衡量的是浮点运算能力,更多用在科学计算和模型训练上。训练需要 FP32 这样的高精度来保证模型收敛,而推理则追求极致的速度和能效。

所以,比较芯片 AI 性能时,要分清场景:

  • AI 推理→ 看TOPS(整数性能)

  • 科学计算 / 训练→ 看TFLOPS(浮点性能)

📊 在 Jetson 上的实际意义

TOPS 值能帮你快速判断一款 Jetson 能跑什么样的 AI 任务:

  • 几十 TOPS (Jetson Orin Nano):流畅运行轻量级图像分类、单路视频分析。

  • 上百 TOPS (Orin NX, AGX Orin):可同时处理多路高清视频流,或运行复杂的目标检测、姿态估计模型。

  • 数百 TOPS 以上 (AGX Thor):专为多传感器融合、运行大型 Transformer 模型等最前沿场景设计。

注意,TOPS 是一个理论峰值。实际应用能发挥出多少性能,还取决于你的模型优化程度、内存带宽、以及是否使用了 TensorRT 这样的加速工具。未经优化的模型,实际运行时的有效 TOPS 会远低于标称值。

sudo apt update:

sudo apt update是 Debian/Ubuntu 这类 Linux 系统里最常用的命令之一。它的作用是刷新本地软件包列表的缓存,让系统知道软件源里现在都有什么软件、版本是多少。

命令拆解

  • sudo:以超级管理员权限执行后面的命令,因为修改系统软件包信息需要管理员权限。

  • apt:Advanced Package Tool 的缩写,是系统用来管理软件包(安装、卸载、更新等)的命令行工具。

  • update:告诉 apt 要进行的操作是“刷新软件包索引”。

这条命令会去你系统配置的软件源服务器(比如 Ubuntu 官方源、NVIDIA 的 Jetson 专属源等)下载最新的软件包清单,然后保存在本地。注意,update只是拉取清单,并不会真正升级任何软件

在 Jetson 上要注意什么

在 Jetson 板子上跑这个命令,和普通 Ubuntu 机器基本一样,但有一点特别值得留意:

NVIDIA 为 Jetson 提供了独立的软件源,里面放着针对 Jetson 硬件优化过的内核、驱动和 AI 库(如 CUDA、TensorRT)。执行sudo apt update时,系统会同时检查这些 Jetson 专用源。

所以,千万不要随意去更换或删除这些源,否则你可能装不到正确版本的 Jetson 专用包,甚至导致系统驱动出问题。

和升级命令的关系

通常sudo apt update会和下面两个命令搭配使用,完成整个升级流程:

  1. sudo apt update:刷新软件包列表,知道有什么可以更新

  2. sudo apt list --upgradable:列出具体有哪些软件包可以升级,可以先看一眼。

  3. sudo apt upgrade:根据刚才刷新的列表,真正下载并安装那些可更新的包。

所以,如果你想给 Jetson 装新软件或升级系统,一个安全的习惯就是先update刷新列表,再根据需要upgrade实际升级。

source ~/.bashrc:

这个命令拆开是什么意思?

  • source: 在当前 Shell 会话中,逐行读取并执行指定文件里的命令。

  • ~/: 代表当前用户的家目录。比如 Jetson 默认用户nvidia,它的家目录就是/home/nvidia/

  • .bashrc: 家目录下的一个隐藏脚本文件。每次你打开一个新的终端窗口,系统会自动执行这个文件里的命令。

所以source ~/.bashrc的作用,就是在不打开新终端的情况下,手动让刚刚修改过的.bashrc配置立即生效

什么时候需要执行它?

最典型的场景就是你修改了.bashrc文件,添加了一些配置,比如:

  • 设置环境变量: 比如添加了新的PATHCUDA_HOME

  • 创建命令别名: 比如设置了alias ll='ls -alF'

  • 修改终端显示: 比如自定义了命令行提示符的颜色。

修改并保存文件后,已经打开的终端不会自动应用新配置。这时执行source ~/.bashrc,就能立刻加载这些改动,非常方便。

在 Jetson 上需要注意什么?

这里有一个 Jetson 用户容易碰到的问题。

当你用sudo临时提升为 root 权限,或者用sudo -i切换到 root 用户时,执行source ~/.bashrc里的~代表的是root 的家目录(/root),而不是普通用户的家目录。

最常见的问题是:
你在普通用户下为 CUDA 设置了环境变量,但用sudo运行脚本时,系统提示找不到nvcc命令。这通常就是因为 root 用户的.bashrc里没有这些配置。

http://www.jsqmd.com/news/880358/

相关文章:

  • LangGraph 状态存储优化:处理大规模多智能体数据的高效方案
  • Python基础篇:闭包、装饰器wrapper
  • DeepSeek LeetCode 2617. 网格图中最少访问的格子数 TypeScript实现
  • 上位机使用篇---Jetson的烧写和备份
  • java类继承理解
  • 全球首份Gemini代码生成「生产就绪度」白皮书(含27项SRE级验收标准+自动化检测脚本开源)
  • 黑白电视的“单眼魔法“:揭秘那个只用亮度讲故事的奇妙世界
  • 贝叶斯网络基本概念 CS188 Note12 学习笔记
  • 矩阵补全因果推断:破解贸易政策评估中的内生性与异质性难题
  • 亮度与色度:揭秘视觉世界的“双重密码“
  • DeepSeek-R1在火山引擎部署的7大避坑指南:从环境配置到GPU显存优化,一线工程师亲授
  • 2025-2026年国内人力资源外包公司推荐:TOP5评测价格注意事项适用场景案例 - 品牌推荐
  • 深度学习篇---张量
  • 贝叶斯网络中条件独立性的判断 CS188 Note13 学习笔记
  • 哪家工程信息平台专业?2026年5月推荐TOP5评测数据覆盖广防漏单特点选择指南 - 品牌推荐
  • 2026年5月郑州轴承专业服务商盘点:河南瓦房店轴承销售有限公司实力解析 - 2026年企业推荐榜
  • 2026果蔬加工去皮设备推荐榜:智能净菜加工设备/智能去皮机/果蔬切片机/果蔬削皮机/果蔬加工生产线/果蔬去皮机/选择指南 - 优质品牌商家
  • 深度学习篇---NVIDIA TensorRT
  • 国防军工涉密网络全光网设备定制化推荐:电话光端机/管理型光纤收发器/综合多业务光端机/视频光端机/视频综合业务光端机/选择指南 - 优质品牌商家
  • 如何在3分钟内精准定位Windows热键冲突:Hotkey Detective终极指南
  • VideoSrt终极指南:3步实现视频自动字幕生成,告别手动打轴烦恼
  • 2026年5月智慧餐厅管理系统口碑之选:陕西创慧信息科技有限公司实战解析 - 2026年企业推荐榜
  • SketchUp STL插件:5分钟快速掌握3D打印模型转换的完整免费指南
  • 北京游学机构哪家好?求推荐孩子独立研学北京,安全有保障的机构 - 品牌2025
  • Windows和Office一键激活终极指南:KMS_VL_ALL_AIO智能脚本完全解析
  • 如何用TestDisk和PhotoRec拯救丢失数据:3分钟快速诊断与完整恢复指南
  • 2025-2026年上海吉日搬场有限公司电话查询:预约前请确认服务范围与收费标准 - 品牌推荐
  • 2026聚氨酯砂浆磨石地坪选购评测深度解析:聚氨酯砂浆彩砂地面、聚氨酯砂浆磨石地面、聚氨酯砂浆自流平、聚氨酯砂浆防静电地坪选择指南 - 优质品牌商家
  • 3分钟上手Translumo:免费实时屏幕翻译工具终极指南
  • 哪个工程信息平台专业?2026年5月推荐TOP5评测数据准确防错失特点选择指南 - 品牌推荐