人工智能大模型基础模型媒体生成模型量化Qwen【免费下载链接】Qwen-Image-2.1-FP8项目地址https://ai.gitcode.com/hf_mirrors/unsloth/Qwen-Image-2.1-FP8点击查看免费下载Qwen-Image-2.1-FP8是由 Unsloth 发布的 Qwen-Image-2.1 AI 绘图模型的FP8 / INT8 量化版本把原本 14.23 GB 的 bf16 主干压缩到7.12 GB显存需求近乎减半。这意味着原本跑不动 7B 大模型的低显存显卡现在也能流畅生成和编辑图片甚至可以只用6GB 显存通过 offloading 运行。适合人群想在本地跑 AI 绘图的开发者、显存不足的普通用户、AI 量化技术爱好者 什么是量化为什么显存能减半简单说量化就是把模型参数从高精度数字bf16每个参数 2 字节转换成低精度数字FP8/INT8每个参数 1 字节体积直接砍半速度几乎不受影响。量化前后的文件大小对比来自 README.md文件量化后大小替代的原始文件压缩效果Qwen-Image-2.1-INT8.safetensors7.26 GB14.23 GB 的 bf16 transformer↓ 49%Qwen-Image-2.1-FP8.safetensors7.12 GB14.23 GB 的 bf16 transformer↓ 50%Qwen-Image-2.1-text_encoder-FP8.safetensors9.39 GB17.5 GB 的 bf16 text_encoder↓ 46%↑ FP8 量化模型生成的示例图细节与光影依然表现出色生成效果如何看这些实拍样张量化模型最让人担心的是画质损失但本项目用LPIPS 指标越低越接近原版实测对比INT8 为 0.064FP8 为 0.112说明 INT8 版本几乎与 bf16 原版无差别。↑ 低显存量化模型依然能生成电影感十足的写实大图FP8 和 INT8 怎么选一句话结论优先选 INT8。INT8默认推荐方案画质与 bf16 原版差距最小LPIPS 0.064适合对画质有要求的场景FP8文件略小速度稍快适合追求效率的场景所有文件均采用safetensors格式加载时不执行任何代码安全性更高↑ INT8 样张光影与材质细节保留完整低显存显卡如何快速上手3 步搞定第 1 步安装依赖pip install torch2.4.0 pip install transformers5.17 pip install githttps://github.com/huggingface/diffusers pip install accelerate pillow⚠️ 注意Qwen-Image-2.1 的支持晚于 diffusers 0.40 版本需要diffusers 最新主干版本。第 2 步加载量化模型并生成图片import torch from diffusers import QwenImage21Pipeline pipe QwenImage21Pipeline.from_pretrained( Qwen/Qwen-Image-2.1, torch_dtypetorch.bfloat16 ).to(cuda) image pipe( promptA neon shop sign that reads \QWEN IMAGE 2.1\, rainy night, reflections on wet pavement, width2048, height2048, num_inference_steps40, ).images[0] image.save(t2i_example.png)第 3 步开启显存优化6GB 显卡也能跑显存只有 6GB加一行enable_model_cpu_offload()即可模型会自动在 CPU 和 GPU 之间搬运权重pipe QwenImage21Pipeline.from_pretrained( Qwen/Qwen-Image-2.1, torch_dtypetorch.bfloat16 ) pipe.enable_model_cpu_offload() # 速度约为直跑的 1/2但 6GB 显存可用 在Unsloth Desktop中则完全免手动配置选择 Qwen-Image-2.1 并勾选 INT8 或 FP8 精度即可自动使用本项目的量化权重。仓库文件一览文件用途Qwen-Image-2.1-FP8.safetensorsFP8 量化主干7.12 GB替换 bf16 transformerQwen-Image-2.1-INT8.safetensorsINT8 量化主干7.26 GB替换 bf16 transformerQwen-Image-2.1-text_encoder-FP8.safetensors预转换 FP8 文本编码器9.39 GBvae/qwen_image_2.1_vae_bf16.safetensorsbf16 VAE0.63 GB替换原始 fp32 VAE完整说明见 README.md。常见问题Q16GB 显存真的能跑吗✅ 可以。配合 Dynamic FP8 和 CPU offloading最低 6GB 显存即可运行速度约为全速的一半。Q2量化会明显掉画质吗损失很小LPIPS 对比显示 INT8 版本0.064肉眼几乎无法与 bf16 原版区分。Q3能生成透明背景图片吗可以。Qwen-Image-2.1 原生支持 RGBA 透明图生成与编辑直接按官方提示词格式描述透明背景即可。Q4支持哪些图片比例1:1、4:3、3:4、3:2、2:3、16:9、9:16 等常用比例均已适配可直接指定 width/height。总结Qwen-Image-2.1-FP8 用一套简单的量化方案让7B 级 AI 绘图大模型走进了低显存显卡的世界显存减半、画质几乎无损、6GB 起步即可运行。无论你是想本地搭建 AI 绘图工作流还是研究大模型量化技术这个项目都是一个高完成度的起点 赞分享人工智能大模型基础模型媒体生成模型量化Qwen【免费下载链接】Qwen-Image-2.1-FP8项目地址https://ai.gitcode.com/hf_mirrors/unsloth/Qwen-Image-2.1-FP8点击查看免费下载相关推荐6GB显存显卡如何跑Qwen-Image-2.1-FP8Dynamic FP8与CPU Offloading低显存优化全解析6GB显存显卡如何跑Qwen Image 2.1 FP8Dynamic FP8与CPU Offloading低显存优化全解析 Qwen Image 2.1 F人工智能大模型基础模型媒体生成模型量化Qwen4GB显存也能跑Qwen1.5-4B模型低显存部署终极方案4GB显存也能跑Qwen1.5 4B模型低显存部署终极方案 还在为本地部署大模型时显存不足而头疼吗 其实只要掌握正确的优化技巧在仅4GB显存的设备上人工智能大模型Qwen模型评测示例工程本地部署教程DiffSynth-Studio 显存管理实战让 Qwen-Image 等大模型在低显存 GPU 上跑起来DiffSynth Studio 显存管理实战让 Qwen Image 等大模型在低显存 GPU 上跑起来 DiffSynth Studio 内置了一整套分层人工智能大模型媒体生成深度学习预训练微调创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考