当前位置: 首页 > news >正文

Python的异步把我坑惨了,原来async/await和多线程的区别这么大

一个让我怀疑人生的爬虫项目

前年接了一个数据采集项目。每天要爬一万多个商品页面的价格和库存信息,每个页面请求大概等1秒钟。

我心想:“一万个请求,每个一秒,也就两个多小时嘛,跑着呗。”

结果跑起来发现根本不是这么回事。同步请求一个接一个,加上网络波动和重试,跑完一轮要四个多小时。客户那边每天等着数据更新,四个多小时黄花菜都凉了。

我说:“上多线程!”

开了50个线程并发请求,速度确实快了,跑完一轮大概十几分钟。但新问题来了——线程开太多,服务器连接数爆了,被目标网站封了IP。降低到20个线程,速度又慢回去了。

同事看了一眼我的代码:“你这个场景,用异步啊。”

我:“异步?async/await那套?跟多线程有什么区别?”

那天下午,我把async/await和多线程的区别彻底研究了一遍。今天把这些东西讲清楚,希望你下次遇到类似问题别像我一样纠结。

第一步:先搞清楚并发到底在解决什么问题

不管是多线程还是异步,解决的都是同一个问题:别让程序傻等着

看一段最朴素的同步代码:

import time import requests def fetch(url): print(f"开始请求 {url}") response = requests.get(url) # 这里傻等着 print(f"完成请求 {url}") return response start = time.time() fetch("网站A") fetch("网站B") fetch("网站C") print(f"总耗时: {time.time() - start}")

三个请求,每个等1秒,总共3秒。

问题出在哪?requests.get(url)这行代码执行的时候,程序啥事也没干,就在那儿干等着网络返回数据。CPU其实是空闲的,但同步代码不允许它去做别的事——没执行完当前函数,绝不跳到下一行。

并发要解决的就是这个“等待浪费”。当一个操作需要等待时,让程序暂时离开,去做别的事,等那个操作准备好了再回来继续。

第二步:多线程——增加人手

多线程的思路很直接:既然一个人等的时候干不了活,那就多招几个人

每个线程就像一个独立的员工。员工A在等网络响应的时候,员工B可以继续发请求,员工C可以继续发请求。这样CPU就不会闲着了。

import threading import requests def fetch(url): response = requests.get(url) print(f"完成 {url}") urls = ["网站A", "网站B", "网站C"] threads = [] for url in urls: t = threading.Thread(target=fetch, args=(url,)) t.start() threads.append(t) for t in threads: t.join()

三个线程同时干活,总耗时约1秒。

但多线程有个代价:线程切换由操作系统控制。操作系统会时不时打断当前线程,切换到另一个线程。这种切换叫做“抢占式”——你控制不了什么时候切、切给谁。

就像开一个多窗口的银行,每个窗口一个柜员。如果某个客户填表填得慢,那个窗口就得等着,但其他窗口还能继续服务别人。问题是柜员数量有限,招太多人成本也高——线程太多,操作系统切换开销大,还可能把服务器资源耗尽。

第三步:异步——一个超级柜员

异步的思路完全不同:不增加人手,而是让一个人变得更高效

import asyncio import aiohttp async def fetch(session, url): print(f"开始请求 {url}") async with session.get(url) as response: data = await response.text() # 主动让出控制权 print(f"完成请求 {url}") return data async def main(): async with aiohttp.ClientSession() as session: tasks = [ fetch(session, "网站A"), fetch(session, "网站B"), fetch(session, "网站C"), ] await asyncio.gather(*tasks) asyncio.run(main())

异步的核心是一个叫做“事件循环”的东西。你可以把它理解成一个超级调度员,管理着所有待执行的任务。

当一个异步任务遇到需要等待的操作时(比如网络请求),它不会傻等,而是主动告诉事件循环:“我要等一会儿,你先去忙别的,好了叫我”。事件循环收到消息后,立刻切换到下一个可以执行的任务。

等网络数据回来了,事件循环再把之前暂停的任务唤醒,继续执行。

用银行的比喻:异步就像一个超级王牌柜员,只开一个窗口。客户A来办业务,发现需要回去拿身份证。这个柜员不会傻等,而是立刻跟客户A说:“你先去拿,拿好了再回来,我先给下一个人办。”然后马上开始处理客户B的业务。

等客户A拿着身份证回来了,柜员再找个空隙把剩下的业务办完。这个柜员从来没有闲着,通过在任务的等待时间里来回切换,一个人就搞定了多个客户的活儿。

关键区别在于:多线程是操作系统帮你切换(抢占式),你控制不了;异步是任务自己主动让出控制权(协作式),你自己说了算。

第四步:到底有什么区别?

说了这么多,用一张表总结一下:

维度多线程async/await
调度者操作系统(抢占式)事件循环(协作式)
资源消耗每个线程约1-8MB内存每个任务几乎不占额外内存
并发上限几十到几百个线程几千甚至上万个任务
切换开销操作系统上下文切换,较重函数调用级别,很轻
适用场景I/O密集型,少量并发I/O密集型,海量并发
CPU密集型受GIL限制,基本没用没用(单线程)
学习曲线相对平缓相对陡峭,需要理解事件循环

用我那个爬虫项目来实测:同步版本4个多小时,20线程版本约20分钟但容易被封,异步版本用aiohttp跑一万个请求,不到10分钟跑完,而且单线程连接数可控,不容易被封。

有实测数据显示,在4核8G服务器上,aiohttp可以维持3000+并发连接,而传统的同步方式超过500连接就会出现性能断崖式下跌。异步爬虫比同步快10到100倍

第五步:还有一些坑

异步虽然强大,但坑也不少。我踩过的几个分享给你。

坑一:逐个await等于没用异步

这是最常见也最隐蔽的错误。

# 错误写法——还是串行 async def main(): await fetch("网站A") # 等A完成 await fetch("网站B") # 再等B完成 await fetch("网站C") # 再等C完成

这样写跟同步没区别,总耗时还是3秒。正确做法是用asyncio.gather()并发执行:

# 正确写法——真正并发 async def main(): await asyncio.gather( fetch("网站A"), fetch("网站B"), fetch("网站C"), )

坑二:在异步里调用同步阻塞函数

事件循环是单线程的。如果你在协程里调用了time.sleep()或者同步的requests.get(),整个事件循环都会被卡住。

async def bad_example(): time.sleep(5) # 卡死整个事件循环5秒! # 应该用 await asyncio.sleep(5)

如果是必须用的同步库,可以用asyncio.to_thread()把它丢到线程池里执行。

坑三:忘了await

async def main(): fetch("网站A") # 忘了await!这行什么都没干 await fetch("网站B")

不写await,协程根本不会执行。Python 3.11+会给出警告,但最好还是养成习惯——写了async def,调用的时候一定加await

总结

一句话记住区别:多线程是操作系统帮你切换任务,异步是你自己主动让出控制权

用餐厅来总结:

  • 多线程:招了10个厨师,每个厨师负责一道菜。等菜的时候厨师闲着,但其他厨师还在忙

  • 异步:只有1个超级厨师,但他从来不等——菜在锅里炖的时候,他立刻去切下一道菜的食材

现在我遇到并发需求,会先问自己两个问题:

  1. 任务是等(I/O)还是算(CPU)?等的话才考虑并发

  2. 并发量多大?几十个用多线程,几百上千个用异步

想清楚再动手,少让程序卡住几次。

http://www.jsqmd.com/news/1248563/

相关文章:

  • 企业级即时通讯:从聊天工具到工作流中枢
  • Java+Appium移动端自动化测试:从环境搭建到框架设计的工程化实践
  • 企业级Nginx性能优化实战与内核调优
  • 【重磅发布】Claude Code v2.1.216 :拯救超长会话 N² 性能危机、沙箱与网络隔离解耦、大修 Git Worktree 越权穿透!
  • 转错账别急着哭!我花了2000块学费,总结出这份“链上追债“实操手册
  • 生产级 CNI 选型与架构设计:高可用、安全与可观测性综合考量
  • 百度网盘提速全攻略:在线解析工具+直链提取教程,告别限速
  • VMware运行Win11虚拟机的配置与优化指南
  • 2026北京规范:钻石回收须出具无损鉴定证书,并标注净度瑕疵位置 - 二奢分享官
  • Unity贪吃蛇实战:从零构建专业菜单系统与音频管理器
  • 大模型微调技术:从LoRA到QLoRA的实践指南
  • TM4C129DNCPDT微控制器:ARM Cortex-M4F内核与丰富外设的工业级嵌入式平台解析
  • 台式机 BIOS 硬盘模式 IDE/AHCI/RAID 详解 + Win7 重装 0x0000007B/bootmgr is missing 报错完整解决
  • 大模型学习路线图:新手也能轻松入门,收藏这份进阶指南!
  • 市面上封装齐全的内存颗粒DIMM芯片测试座公司整套解决方案
  • 卖黄金必看!新政策落地,不要再白白上交折旧费、损耗费 - 好物测评局
  • 全年龄段覆盖的超低钆造影剂获批:Ambelvist为新生儿到成人的MRI检查筑牢安全底线【海得康】
  • 行业模板与云市场:CEO加速数据价值兑现的战略捷径
  • 数据中心“可用性”不是玄学,搞懂这几点少踩坑
  • 【毕业设计】基于 Python Web 的宠物托管服务平台 宠物寄养预约、评价与订单管理系统(源码+文档+远程调试,全bao定制等)
  • 深度信念网络与TTNRBO优化算法在风电预测中的应用
  • 萍乡市安源区叉车维修保养哪家专业 萍乡市杭州叉车 13879978544 - GrowUME
  • 中小学教室专用门选购要点及标准要求
  • 专科生论文降重工具实测:8款AIGC优化软件对比
  • 蛋白质设计技术演进:从Rosetta到AI生成模型
  • 闲置腕表搁置不用别闲置!武汉实体店手表回收全攻略,到店核验至转账办结全程约半小时 - 企业家观察员
  • BQ4050数据闪存配置实战:SOC标志、CEDV平滑与保护机制详解
  • UE4游戏外挂技术深度解析:内存修改、ESP透视与自瞄实现原理
  • 2026 上海注册公司代账机构甄选指南|金税四期合规避坑 + 本土优质机构实测榜单
  • 2026 重庆九龙坡大额投资金条回收找谁?逸程实体老店,高价现款现结 - 融媒生活