当前位置: 首页 > news >正文

智谱AutoGLM从零开始:环境搭建、设备连接、指令执行

智谱AutoGLM从零开始:环境搭建、设备连接、指令执行

1. 什么是AutoGLM-Phone?

AutoGLM-Phone是一个基于视觉语言模型的AI手机智能助理框架。它能理解手机屏幕内容,并通过自动化操作帮助用户完成任务。想象一下,你只需要说"打开小红书搜美食",它就能自动完成整个操作流程,无需手动点击。

这个框架的核心特点包括:

  • 多模态理解:能同时处理图像和文字信息
  • 自动化操作:通过ADB控制设备执行点击、滑动等操作
  • 智能规划:将复杂任务分解为可执行步骤
  • 安全机制:敏感操作需要确认,支持人工接管

2. 环境准备与工具安装

2.1 硬件与软件要求

在开始前,请确保你具备以下条件:

  • 操作系统:Windows 10/11或macOS
  • Python环境:Python 3.10或更高版本
  • 安卓设备:Android 7.0+手机或模拟器
  • ADB工具:Android Debug Bridge

2.2 安装Python

建议使用Python 3.10+版本,可以从官网下载:

https://www.python.org/downloads/

安装时注意勾选"Add Python to PATH"选项,这样可以在命令行直接使用python命令。

验证安装是否成功:

python --version

2.3 配置ADB工具

ADB是连接和控制安卓设备的关键工具,安装步骤如下:

  1. 下载ADB工具包:
    https://developer.android.com/tools/releases/platform-tools
  2. 解压到自定义目录
  3. 配置环境变量:

Windows系统

  1. 解压下载的包
  2. Win + R输入sysdm.cpl → 高级 → 环境变量
  3. 在System Path中添加ADB解压路径
  4. 命令行输入adb version验证

macOS系统

export PATH=${PATH}:~/Downloads/platform-tools

3. 设备连接设置

3.1 手机端设置

要让电脑控制你的安卓设备,需要完成以下设置:

  1. 开启开发者模式

    • 进入设置 → 关于手机 → 版本号
    • 连续点击"版本号"7次,直到提示"开发者模式已启用"
  2. 启用USB调试

    • 进入设置 → 开发者选项 → 勾选"USB调试"
  3. 安装ADB键盘

    • 下载并安装ADB Keyboard APK
    • 在手机"语言与输入法"设置中,将默认输入法切换为ADB Keyboard

3.2 连接方式选择

AutoGLM支持两种连接方式:

USB连接

adb devices # 输出应包含device ID

WiFi远程连接

# 先用USB连接开启tcpip adb tcpip 5555 # 断开USB,连接手机IP adb connect 192.168.x.x:5555

4. 部署控制端代码

4.1 获取Open-AutoGLM代码

在本地电脑上克隆仓库并安装依赖:

# 克隆仓库 git clone https://github.com/zai-org/Open-AutoGLM cd Open-AutoGLM # 安装依赖 pip install -r requirements.txt pip install -e .

4.2 配置模型服务

AutoGLM需要连接模型服务才能工作,有两种方式:

  1. 使用智谱官方API(推荐新手):

    • 访问智谱官网获取API Key
    • 替换以下命令中的your-bigmodel-api-key
  2. 本地部署模型(适合开发者):

    • 参考项目文档部署vLLM服务
    • 需要具备GPU环境

5. 运行AI代理

5.1 命令行方式运行

在Open-AutoGLM目录下执行:

python main.py \ --device-id <你的设备ID或IP:5555> \ --base-url https://open.bigmodel.cn/api/paas/v4 \ --model "autoglm-phone" \ --apikey "your-bigmodel-api-key" \ "打开抖音搜索抖音号为:dycwo11nt61d的博主并关注他"

参数说明:

  • --device-id:通过adb devices获取的设备ID
  • --base-url:模型服务地址
  • --model:使用的模型名称
  • --apikey:智谱API Key
  • 最后字符串:自然语言指令

5.2 Python API方式

你也可以通过Python代码控制:

from phone_agent.adb import ADBConnection, list_devices # 创建连接管理器 conn = ADBConnection() # 连接远程设备 success, message = conn.connect("192.168.1.100:5555") print(f"连接状态: {message}") # 列出已连接设备 devices = list_devices() for device in devices: print(f"{device.device_id} - {device.connection_type.value}") # 在USB设备上启用TCP/IP success, message = conn.enable_tcpip(5555) ip = conn.get_device_ip() print(f"设备IP: {ip}") # 断开连接 conn.disconnect("192.168.1.100:5555")

6. 常见问题排查

遇到问题时,可以尝试以下解决方法:

  1. 连接被拒绝

    • 检查云服务器防火墙是否放行了对应端口
    • 确认ADB版本与设备兼容
  2. ADB掉线

    • WiFi连接不稳定,尝试使用USB线连接
    • 重新执行adb connect命令
  3. 模型无响应

    • 检查vLLM启动参数是否一致
    • 确认显存和max-model-len设置正确
  4. 操作失败

    • 确保目标应用已安装
    • 检查ADB Keyboard是否设为默认输入法
    • 确认屏幕未锁定

7. 总结与进阶建议

通过本教程,你已经完成了AutoGLM-Phone的环境搭建、设备连接和基本使用。这个框架的强大之处在于它能将自然语言指令转化为实际设备操作,大大提升了自动化水平。

进阶建议

  • 尝试更复杂的任务链,如"打开美团→搜索火锅店→按评分排序→截图发微信"
  • 开发自定义动作插件,扩展框架能力
  • 结合OCR技术增强界面理解能力
  • 优化任务规划算法,提高成功率

AutoGLM代表了AI与真实世界交互的重要一步,随着技术的发展,这类智能助理将变得越来越强大和实用。


获取更多AI镜像

想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。

http://www.jsqmd.com/news/569004/

相关文章:

  • 告别‘塑料感’渲染:IBGS如何用‘颜色残差’让3D高斯重建的物体更真实?
  • ORB_SLAM3地图保存避坑指南:如何避免段错误导致数据丢失
  • 用Comsol模拟水力压裂:岩石损伤的完全耦合模型
  • 面向医疗隐私场景的隐私-效率协同评估体系
  • Kylin-Server-10-SP1 系统下源码编译降级GCC至5.3.0实战指南
  • Win11文件管理器左侧导航栏精简指南:如何彻底移除‘主文件夹‘和‘图库‘链接
  • Agentic RAG实战:LangChain与Milvus构建智能问答系统的决策循环优化
  • 基于Qt框架开发Janus-Pro-7B桌面客户端:跨平台模型应用工具
  • 从收音机到5G滤波器:品质因数Q如何影响你的手机信号?一个硬件工程师的实战笔记
  • 探索二维电介质介电击穿模型:Comsol相场模拟电树枝
  • Nuxt3 + PM2 + Nginx:打造高可用前端部署方案(附常见问题排查指南)
  • SAP FI VF01/VF04增强实战:如何避免发票折扣与销售订单不一致的坑
  • Zynq Ultrascale+ RF DAC实战:从混频器原理到IQ信号处理全解析
  • PyTorch ARM版安装指南:手把手教你用pip和国内镜像搞定aarch64环境
  • 单细胞上游分析实战:从cellranger安装到数据预处理全流程解析
  • 30天小白进阶AI大神:收藏这份路线图,免费工具玩转大模型!
  • ZH03B激光粉尘传感器原理与SD_ZH03B库工程实践
  • 用STM32F103+TMC5160做个小玩意:从CubeMX配置到FreeRTOS任务调度,手把手带你玩转电机驱动板
  • 网易云音乐永久直链解析:一键解决音乐链接过期问题的终极指南
  • 2026年评价高的宁波农机硬管总成/不锈钢硬管总成/高压硬管总成/风电硬管总成公司选择推荐 - 品牌宣传支持者
  • 2026年热门的润滑软管总成/汽车软管总成/挖掘机软管总成/液压软管总成源头工厂推荐 - 品牌宣传支持者
  • 感应电机故障检测的 Matlab/Simulink 仿真搭建之旅
  • 从原理到代码:深入解析UniFormer的多头关系聚合器(MHRA)设计
  • 3个核心价值:RisingWave实时流数据处理平台构建企业级监控告警系统
  • 轻量级PDF阅读器SumatraPDF:提升数字阅读效率的全方位指南
  • Hunyuan-MT-7B部署教程:Pixel Language Portal与企业SSO单点登录集成方案
  • 2026年知名的宁波高压软管总成/润滑软管总成/软管总成推荐实力公司 - 品牌宣传支持者
  • **Jest测试驱动开发新范式:从基础到高级实战指南**在现代前端工程化实践中,**单元测试**早已不是“锦
  • 嵌入式开发文档工程化实践与价值
  • 基于Matlab的 变转速时域信号转速提取及阶次分析 将采集的脉冲信号转为转速,并对变转速时域...