day22_深度学习入门与pytorch

day22_深度学习与PyTorch入门

一、深度学习概述

1. 概念

深度学习具体是什么呢？一句话概括：深度学习模仿人类大脑的运行方式，依赖算法自动提取特征，而不需要人工设计特征。

传统机器学习需要人工设计特征并手动提取，而深度学习把"提取特征"这事儿也交给了算法自己。这也是为什么深度学习经常被称为"黑盒子"——模型学到的特征是人眼难以直接理解的。

深度学习擅长处理高维数据，比如图像（每个像素都是特征）、文本（每个词都是特征）。

2. 深度学习的优缺点

优点：

• 精度高— 性能优于其他机器学习算法，某些领域甚至超越了人类水平
• 可以近似任意非线性函数— 随着硬件发展，深层网络的表达能力越来越强
• 生态丰富— 有大量的框架和开源库可供调用

缺点：

• 黑箱问题— 很难解释模型到底是怎么做出判断的
• 训练时间长— 需要大量的计算资源（GPU、TPU等）
• 超参数多— 网络结构复杂，需要调整的参数多
• 容易过拟合— 在部分数据集上表现不佳，需要正则化手段

3. 深度学习发展史

深度学习并非一夜爆红，它经历了三个主要时期：

🔑关键转折点：2012年AlexNet在ImageNet图像识别竞赛中以巨大优势夺冠，这是深度学习爆发的标志性事件；2017年Transformer的出现则彻底改变了NLP领域。

4. 主流算法模型

深度学习不是单一的算法，而是一族方法，下面是最主流的几种：

二、主流深度学习框架

1. 四大框架对比

目前最主流的深度学习框架有以下四个：

📝一句话总结：做学术搞研究选PyTorch，做工程部署选TensorFlow，搞国产生态选PaddlePaddle，模型转换靠ONNX。

2. PyTorch简介

PyTorch 是基于 Python 的深度学习框架，核心概念是张量（Tensor）。它提供了灵活高效的工具，用于构建、训练和部署深度学习模型。

安装极其简单：

pipinstalltorch-ihttps://pypi.tuna.tsinghua.edu.cn/simple

三、PyTorch张量操作详解

1. 什么是张量

张量（Tensor）是 PyTorch 的核心数据抽象，简单理解就是多维数组。它与 NumPy 的ndarray非常相似，但多了一个杀手锏——支持GPU加速（CUDA）。

🔑关键区别：PyTorch张量与NumPy数组类似，但通过CUDA可以在GPU上高效运行，大幅加速深度学习模型的训练。

2. 张量的创建方法

importtorch# 1. 根据指定数据创建data=torch.tensor([[1,2],[3,4]])print(data)# tensor([[1, 2], [3, 4]])# 2. 根据形状创建（未初始化）data=torch.Tensor(2,3)# 2行3列# 3. 指定类型创建data_int=torch.IntTensor([1,2,3])data_float=torch.FloatTensor([1.1,2.2,3.3])# 4. 创建线性张量arange_data=torch.arange(0,10,2)# [0, 2, 4, 6, 8]linspace_data=torch.linspace(0,1,5)# [0, 0.25, 0.5, 0.75, 1]# 5. 创建随机张量torch.random.manual_seed(42)# 固定随机种子rand_data=torch.rand(2,3)# [0,1)均匀分布randn_data=torch.randn(2,3)# 标准正态分布randint_data=torch.randint(0,10,(2,3))# [0,10)随机整数# 6. 创建全0/全1/全指定值张量zeros_data=torch.zeros(2,3)# 全0ones_data=torch.ones(2,3)# 全1full_data=torch.full((2,3),7)# 全为7# 还有 ones_like / zeros_like / full_like 可模仿形状

3. 张量类型转换

data=torch.tensor([1,2,3])# 方法一：直接转换data_float=data.float()# torch.float32data_double=data.double()# torch.float64data_int=data.int()# torch.int32data_long=data.long()# torch.int64data_half=data.half()# torch.float16# 方法二：用 type() 方法data_fp32=data.type(torch.float)data_i32=data.type(torch.int)

4. 张量与NumPy互转

importnumpyasnp# 张量 → numpy（共享内存，修改一个会影响另一个）data_tensor=torch.tensor([1,2,3])data_numpy=data_tensor.numpy()# 共享内存data_numpy_copy=data_tensor.numpy().copy()# 不共享内存# numpy → 张量（共享内存）data_np=np.array([4,5,6])data_tensor_shared=torch.from_numpy(data_np)# 共享内存data_tensor_new=torch.tensor(data_np)# 不共享内存# 标量张量 ↔ 数字scalar=torch.tensor(3.14)print(scalar.item())# 3.14

⚠️注意：tensor.numpy()和torch.from_numpy()是共享内存的，修改其中一个会影响另一个。如果不希望共享，用.copy()或torch.tensor()。

5. 张量基本运算

# 1. 基本算术运算a=torch.tensor([1,2,3])b=torch.tensor([4,5,6])print(a+b)# tensor([5, 7, 9])print(a-b)# tensor([-3, -3, -3])print(a*b)# tensor([4, 10, 18])print(a/b)# tensor([0.25, 0.40, 0.50])# 函数形式（带下划线的为原地操作，会修改原张量）torch.add(a,b)# add, sub, mul, diva.add_(b)# 原地加法：a = a + b（注意下划线）# 2. 矩阵乘法matrix_a=torch.tensor([[1,2],[3,4]])matrix_b=torch.tensor([[5,6],[7,8]])print(matrix_a @ matrix_b)# 使用 @ 运算符print(torch.matmul(matrix_a,matrix_b))# 使用 matmul 函数# 3. 常见运算函数data=torch.tensor([1.0,2.0,3.0,4.0])print(torch.sum(data))# 求和：10.0print(torch.mean(data))# 均值：2.5print(torch.sqrt(data))# 平方根print(torch.pow(data,2))# 平方：tensor([1, 4, 9, 16])print(torch.exp(data))# 指数print(torch.log(data))# 对数

6. 张量索引操作

张量的索引和 NumPy 完全一致，非常直观：

data=torch.randint(0,10,(3,4))print(data)# 假设输出：# tensor([[5, 1, 8, 3],# [9, 2, 6, 0],# [4, 7, 2, 5]])# 格式：张量[行, 列]# 1. 单索引print(data[1,2])# 第2行第3列 → 6# 2. 列表索引print(data[[0,2],:])# 第1行和第3行的所有列# 3. 切片索引print(data[0:2,1:3])# 前两行的第2~4列# 4. 布尔索引mask=data>5print(data[mask])# 所有大于5的元素# 5. 多维索引print(data[1])# 第2行所有列

7. 张量形状操作

data=torch.arange(12)# tensor([0, 1, 2, ..., 11])# reshape — 重塑形状（最常用）reshaped=data.reshape(3,4)print(reshaped.shape)# torch.Size([3, 4])# view — 类似reshape，但要求内存连续viewed=data.view(3,4)# data本身连续，所以可以# 对于不连续的张量，先 contiguous 再 viewtransposed=data.reshape(3,4).transpose(0,1)# transposed 是不连续的viewed=transposed.contiguous().view(4,3)# squeeze — 删除长度为1的维度data_with_dim1=data.reshape(1,3,1,4)# shape: [1, 3, 1, 4]squeezed=data_with_dim1.squeeze()# shape: [3, 4]# unsqueeze — 增加长度为1的维度data_2d=torch.tensor([[1,2,3],[4,5,6]])# shape: [2, 3]unsqueezed=data_2d.unsqueeze(0)# shape: [1, 2, 3]# transpose — 交换两个维度data_3d=torch.randn(2,3,4)transposed=data_3d.transpose(1,2)# shape: [2, 4, 3]# permute — 任意重排所有维度permuted=data_3d.permute(2,0,1)# shape: [4, 2, 3]

📝reshape vs view：reshape更智能，自动处理不连续的张量；view更快但要求内存连续，不连续时需配合contiguous()使用。

8. 张量拼接操作

data1=torch.randint(0,10,(1,2,3))data2=torch.randint(0,10,(1,2,3))print("data1:",data1)print("data2:",data2)# 1. cat — 沿已有维度拼接（不增加维度）# dim=0 拼接 → shape: [2, 2, 3]cat_dim0=torch.cat([data1,data2],dim=0)# dim=1 拼接 → shape: [1, 4, 3]cat_dim1=torch.cat([data1,data2],dim=1)# dim=2 拼接 → shape: [1, 2, 6]cat_dim2=torch.cat([data1,data2],dim=2)# 2. stack — 在新维度上堆叠（会增加一个维度）data3=torch.randint(0,10,(2,3))data4=torch.randint(0,10,(2,3))# dim=0 → shape: [2, 2, 3]（在第一个维度前插入新维度）stack_dim0=torch.stack([data3,data4],dim=0)# dim=1 → shape: [2, 2, 3]（在第二个维度前插入新维度）stack_dim1=torch.stack([data3,data4],dim=1)# dim=2 → shape: [2, 3, 2]（在第三个维度前插入新维度）stack_dim2=torch.stack([data3,data4],dim=2)

🔑cat vs stack 的区别：cat不改变张量的维度数，只在现有维度上拼接；stack会增加一个新维度，要求所有输入张量的形状完全相同。

四、实操案例：完整张量操作流水线

下面是一个综合案例，将我们学过的张量操作串起来走一遍：

importtorchimportnumpyasnp# ============================# 1. 创建数据 — 模拟一个3通道2x2的"图像"# ============================torch.random.manual_seed(42)image=torch.randint(0,256,(3,2,2))# shape: [3, 2, 2]print("原始图像张量形状:",image.shape)# ============================# 2. 类型转换 — 转为浮点型便于计算# ============================image_float=image.float()print("转换后类型:",image_float.dtype)# ============================# 3. 归一化 — 将像素值缩放到[0,1]# ============================image_norm=image_float/255.0print("归一化后的均值:",torch.mean(image_norm).item())# ============================# 4. 增加批次维度 — 模型需要4D输入# ============================image_batch=image_norm.unsqueeze(0)# shape: [1, 3, 2, 2]print("增加批次维度后:",image_batch.shape)# ============================# 5. 展平 — 将图像变为一维向量# ============================image_flat=image_batch.reshape(1,-1)# shape: [1, 12]print("展平后形状:",image_flat.shape)# ============================# 6. 转 NumPy 数组# ============================image_numpy=image_flat.numpy()print("转换为NumPy数组, 类型:",type(image_numpy))# ============================# 7. 数学运算 — 模拟简单的特征变换# ============================weights=torch.randn(12,4)# 随机权重bias=torch.randn(4)# 随机偏置output=torch.matmul(image_flat,weights)+biasprint("线性变换后输出形状:",output.shape)# ============================# 8. 激活函数 — 模拟ReLU# ============================output_activated=torch.relu(output)print("激活后输出:",output_activated)# ============================# 9. 拼接多张"图像"（模拟batch处理）# ============================image2=torch.rand(1,12)# 第二张"图像"batch=torch.cat([image_flat,image2],dim=0)# shape: [2, 12]print("拼接batch后形状:",batch.shape)print("\n✅ 完整流水线执行完毕！")

五、总结