当前位置: 首页 > news >正文

【AI学习-comfyUI学习-三十二节-FLXU原生态反推+controlnet depth(UNion)工作流-各个部分学习】

@[TOC](AI学习-comfyUI学习-三十二节-FLXU原生态反推+controlnet depth(UNion)工作流-各个部分学习)

1,前言

最近,学习comfyUI,这也是AI的一部分,想将相关学习到的东西尽可能记录下来。

2,说明

1,第三十二节-FLXU原生态反推工作流

输入图片 → JoyCaption 自动反推描述 → 送入 FLUX 双 CLIP 条件 → KSampler 生成 → VAE 解码 → 保存

【模型加载】 UNet + 双CLIP + VAE ↓ 【输入图像】 ↓ 【VAE 编码 → Latent】 ↓ 【JoyCaption 自动生成 prompt】 ↓ 【CLIP 文本编码(正 / 负)】 ↓ 【KSampler(FLUX)】 ↓ 【VAE 解码 → Image】 ↓ 【保存】

这是一个:自动理解图片 → 自动写 prompt → 再用 FLUX 高质量重绘的 pipeline

2,第三十二节2-FLUX controlnet depth(UNion)模型工作流

原图 → DepthAnything 抽几何 → ControlNet Union(depth) 锁结构
→ JoyCaption 生成语义 → CLIP 控制风格
→ FLUX 低 CFG 采样 → 高一致性重绘

3,流程

1-第三十二节-FLXU原生态反推工作流

(1)调用模块

(2)输出 提示词

输出得提示词,自动生成

1girls, blue_eyes, weapon, full body, sky, boobs, looking at viewer, black pants,partedlips, white hair, bangs, white gloves, black gloves, holding, black footwear, snow, long hair, black jacket, long sleeve, photoshop(medium), thigh boots, holding weapon, long gloves, black_blouse, holding sword, solo, parted_bangs, cleavage, black leotard, sfw, leotard, bare shoulder, holding gun, ponytail, jacket, weapon over shoulder, bare arms, large_breasts, armpit, hair ornament, white blouse, thighhighs, long ponytail, original, blue sky, hair between eyes, gun, black hair, gloves, white hairband, black hairband, armour, swords, snowing, white hairband, 1other, long hair tied low, blue hairband, hairband, snowing hairband, blush, weapon on shoulder, black gloves, weapon on head, hair accessory, thigh strap, tits apart, hair between breasts, weapon on headwear, white_gloves, holding weapon over shoulder, weapon over head, snowing hair, hair between fingers, pants, hair intakes, blue eyes, armour on shoulders, white hairband, hair between legs, holding weapon over head, hair between thighs, armour_between_breasts, holding weapon between legs, hair between, hair between elbows, armour on forearms, armour_between

(3)生成图片

(1)原图片

(2)生成图片

(4)模型选择

2-第三十二节2-FLUX controlnet depth(UNion)模型工作流

(1)调用模块

(2)输出 提示词

Chinese style high quality character render, cinematic fantasy artwork, dynamic action pose, strong sense of motion, sharp focus, high contrast lighting, detailed fabric texture, realistic skin detail, professional concept art quality, clean lighting, no illustration texture, dramatic lighting,cleardepth separation painterly, illustration, sketch, watercolor, flat lighting, dull colors, gray tone, paper texture, canvas texture, low contrast, blurry, low detail

(3)生成图片

(1)原图片-参考图

(2)生成图

(4)使用模型

4,模块部分说明

1 JoyCaption 自动反推(核心亮点)

🔹 Joy Caption Two Load
  • 使用模型:unsloth/Meta-Llama-3.1-8B-bnb-4bit
  • 管道:JoyTwoPipeline

这是:

LLM + Vision Encoder 的图像描述模型


🔹 JoyCaption Two(参数)
参数含义
caption_typeDescriptive
caption_lengthlong
low_vramfalse

👉 输出的是长、完整、偏自然语言的描述

📌这一步 = 自动写 prompt


🔹 输出去向
  • 输出STRING
  • 直接送入下面的CLIP 文本编码器

2 CLIP 文本编码(FLUX 专用)

你这里有两个一模一样的节点

🔹 CLIP 文本编码(Flux)×2
  • 上:正向 prompt
  • 下:负向 prompt

参数:

权重:3.5

3DownloadAndLoadDepthAnythingV2Model

看到的参数

model: depth_anything_v2_vitl_fp32.safetensors precision: auto

作用一句话:

加载 Depth Anything V2 的深度预测模型(本体),供后续节点使用。


🔍 关键点逐条解释

🔹 model:depth_anything_v2_vitl_fp32

  • Depth Anything V2

    • 当前最强、最稳定的通用深度估计模型之一
  • vitl

    • Vision Transformer Large

    • 比 base / small:

      • 边缘更准
      • 人体轮廓更干净
      • 前后层次更稳定
  • fp32

    • 精度最高
    • 深度连续性最好(适合 ControlNet)

📌 结论:

这是“质量优先”的正确选择
代价只是显存和速度。


🔹 precision:auto

含义:

  • 如果显存够 → fp32
  • 显存紧 → 自动降精度

👉 对深度图质量几乎没负面影响
✔️ 推荐保持auto


它只:

  • 加载模型
  • 输出一个da_model(深度模型句柄)

5,细节部分

1-图片识别能力

有时候调试很久,一直要不到感觉质量好的图,可能使用得图片就太难了

6,工作流链接

(1)第三十二节-FLXU原生态反推工作流
https://download.csdn.net/download/qq_22146161/92554564
(2)第三十二节2-FLUX controlnet depth(UNion)模型工作流
https://download.csdn.net/download/qq_22146161/92554566

7,总结

不断学习摸索中。

http://www.jsqmd.com/news/235080/

相关文章:

  • Redis集群:主从复制模型为何是高可用性基石?
  • FunASR语音识别WebUI使用指南|集成speech_ngram_lm_zh-cn提升准确率
  • 【人工智能学习-AI入试相关题目练习-第一次】
  • 【Android 美颜相机】第一天:认识Android-GPUImage项目
  • 如何快速批量抠图?试试CV-UNet大模型镜像,开箱即用
  • Linux(Ubuntu)RIME 中文输入法-朙月拼音
  • 一键智能抠图实践|基于CV-UNet大模型镜像快速部署批量处理方案
  • 大数据领域数据产品的成本核算方法
  • 批量抠图与人像分割新选择|基于科哥开发的CV-UNet大模型镜像
  • 做好项目管理,无非就是三件事:盯、拆、对!
  • 提升ASR准确率的关键|深度解析speech_ngram_lm_zh-cn集成方案
  • 如何高效完成图片背景移除?试试CV-UNet大模型镜像,支持单张与批量抠图
  • 如何高效实现语义相似度分析?试试GTE中文向量模型镜像
  • 【Java毕设全套源码+文档】基于Web的多传感器健康管理系统的设计与实现(丰富项目+远程调试+讲解+定制)
  • CV-UNet Universal Matting核心优势解析|附一键抠图实战案例
  • 如何高效批量抠图?试试CV-UNet大模型镜像,操作简单速度快
  • 本地化语音转文字方案|基于科哥二次开发的FunASR镜像实践
  • AI应用架构师如何运用AI算法优化智能财务AI预测系统
  • 如何高效部署轻量化多模态模型?基于AutoGLM-Phone-9B的完整实践指南
  • 【Java毕设全套源码+文档】基于springboot的在线教育平台设计与实现(丰富项目+远程调试+讲解+定制)
  • 一键批量抠图实践|基于CV-UNet大模型镜像高效实现
  • 电商人像抠图新利器|CV-UNet Universal Matting大模型镜像全场景应用
  • 【Java毕设全套源码+文档】基于springboot的智能水务应急调度与决策系统设计与实现(丰富项目+远程调试+讲解+定制)
  • 零代码抠图工具部署|基于CV-UNet大模型镜像快速落地
  • 如何高效实现中文语音识别?试试科哥定制的FunASR镜像
  • 零代码运行中文相似度分析|GTE大模型镜像集成WebUI一键启动
  • UNet抠图实战升级版|科哥大模型镜像助力高效分割
  • 救命神器!9个AI论文平台测评:研究生毕业论文痛点全解
  • CV-UNet Universal Matting镜像核心优势解析|附一键抠图实战案例
  • CoT+RAG+AI推理·工程手记 篇六:模型加载和多轮流式对话实现