当前位置：首页 > news >正文

4G显存可跑的本地多功能桌宠（Qwen3-1.7B）

news 2026/7/9 2:55:18

莫妮卡桌宠：一个跑在你电脑上的本地 AI 陪伴桌宠

仓库地址：https://gitee.com/keaitui/llm

莫妮卡桌宠是一个完全本地运行、不联网、不上云的 AI 陪伴程序。它住在你的电脑桌面角落，能陪你闲聊、按你的口语设提醒、到点主动提醒你休息，还会随着你跟它聊得越多，把标题栏那颗像素小心心一点点点亮。

它最大的特点是"轻"：在一张 4GB 的笔记本显卡上就能跑起来，模型全部在本地推理。下面先带你看看它长什么样、能做什么，再讲它背后是怎么搭出来的。

主界面是一扇终端美术风格的聊天窗，左边是莫妮卡的小头像，右上角实时显示当前时间，标题栏那颗像素心 ♥ 会随陪伴进度慢慢变亮。

直接打字就能跟它聊天，口吻是训练出来的角色人格，不是冷冰冰的助手腔。

聊天窗标题栏的 🔗 还能绑定一个路径，绑定后用/link一句话就能打开：绑的是文件夹就弹出文件夹，绑的是.exe就直接启动那个程序——把桌宠顺手当成启动器用。

不用记格式，直接说人话就行：

/w 十分钟后提醒我吃饭 /w 下午三点开会 /n 买牛奶

输入/w不带参数，会直接列出当前所有提醒（时间、内容、是否已触发），并弹出一个可点选的编辑器，回车进入、删除键移除：

开启健康模式后，桌宠会按间隔从事件池里抽一条健康提示，用角色口吻主动推送到聊天窗，而不是等你来问：

莫妮卡不是冷启动的程序。标题栏那颗像素心会从暗色轮廓开始，你每跟它完成一轮真实对话，就点亮一格，逐渐变亮成玫瑰红。它纯粹存在本地，记录的是"你们相处了多久"，不联网、不炫耀。

关窗口时可以选择"变成桌面宠物"，莫妮卡会以动态形象停在桌面角落，陪着你工作或摸鱼：

按Esc唤起设置面板，上下移动、空格切换，改动即时生效。面板涵盖八项核心开关，面向的是不同使用情景：

/搜索 "凉宫春日"是谁 # 走百科检索 /搜索 《肖申克的救赎》怎么样 # 走豆瓣检索

抓取到的资料会临时注入当前这轮对话的上下文中，莫妮卡基于真实内容作答；退出程序即清空，不做长期沉淀。

这一节讲原理，但尽量不贴代码——你只要理解"为什么这么设计"就够了。

莫妮卡要做两件差异很大的事：一是像人一样发散闲聊，二是把你的口语稳定解析成结构化定时。最直觉的做法是跑两个模型，但在 4GB 显存上根本装不下。

它的做法是一个基座常驻显存，外面挂两个"技能插件"（LoRA 适配器），用到哪块能力就临时切换：

两个插件共享同一份基座权重，切换成本极低，所以"聊天"和"解析定时"能在同一块显卡上共用。下方的对比能直观看到：左边是裸模型（没挂插件的通用回复），右边是挂上角色插件后的桌宠口吻与更稳的回复表现：

图1：角色插件训练前后对比（口吻 + 回复表现）

因为基座是共享资源，所有推理必须排队串行，否则聊天和定时解析会互相踩踏——这一点由内部的一把锁保证。

莫妮卡从头到尾不知道自己上一句说了什么。所有"记忆"都是程序在每一轮临时拼进上下文的：把相关记事、查到的资料、以及之前压缩好的对话摘要，塞进当前这一轮的输入里。

好处是聊再久上下文窗口都可控，不会越聊越傻；代价是要维护一套"摘要链 + 检索"的管线——但它换来了长时间陪伴下的稳定。

对话是你问它答，但提醒是异步的：后台有一个调度器一直在扫时间表，到点了不经过输入框，直接让模型生成一句提醒台词推到窗口。所以莫妮卡既是"你问它答的聊天对象"，也是"定时器到点后的播报员"。

小模型偶尔会说错话或跑偏。程序在模型之外加了一层规则兜底，必要时用更保守的方式重新生成，比单纯靠提示词约束更稳。

除稳定能力外，项目还内置一组实验性功能：会话级检索，让莫妮卡能基于实时抓来的资料回答，而非只靠模型自身记忆。（RAG：FTS 全文检索）

触发方式：用/搜索前缀 + 不同引号标记来源——""走百科、《》走豆瓣；
链路：识别命令 → 抓取对应资料 → 写入本次会话的临时检索库 → 注入当前这轮上下文 → 模型基于资料作答；
为什么是"实验性"：
- 会话级、退出即清，不做长期知识沉淀；
- 依赖联网抓取，接口不稳定时会退化成普通闲聊；
- 受配置开关控制，不打开就不抓取；
- 抓的是结构化词条摘要，不是实时网页搜索，复杂追问仍受小模型能力上限约束。