Update README.md
Browse files
README.md
CHANGED
|
@@ -13,7 +13,7 @@ base_model_relation: quantized
|
|
| 13 |
===================================================================================
|
| 14 |
|
| 15 |
本模型为：https://huggingface.co/BAAI/Emu3.5 的 NF4 量化版本，可用官方 inference 代码直接加载，需加装 bitsandbytes 依赖。
|
| 16 |
-
模型全部加载到显卡的情况下，需占用 24GB，跑图最大需要 32GB 显存。(根据本人测试情况，安装 flash_attn==2.7.4
|
| 17 |
|
| 18 |
<img src="./sample.png" alt="Example Generated Image" width="800">
|
| 19 |
|
|
|
|
| 13 |
===================================================================================
|
| 14 |
|
| 15 |
本模型为：https://huggingface.co/BAAI/Emu3.5 的 NF4 量化版本，可用官方 inference 代码直接加载，需加装 bitsandbytes 依赖。
|
| 16 |
+
模型全部加载到显卡的情况下，需占用 24GB，跑图最大需要 32GB 显存。(根据本人测试情况，安装 flash_attn==2.7.4 预编译 whl 也行)
|
| 17 |
|
| 18 |
<img src="./sample.png" alt="Example Generated Image" width="800">
|
| 19 |
|