因为我们已经初始化了量化类,所以后面表示计算图不再使用ppq_ir,直接用quantizer._graph表示。所有对计算图执行的操作,最后都会返回BaseGraph类,这个类是PPQ内部专门为模型量化准备的计算图,除了保存一般计算图的必要信息之外,还存储了所有量化信息。最后注意这里如果不需要执行量化,我们用没有原始载入的计算图执行一遍推理,然后返回即可。好了继续回到我们的主逻辑中,最后一步是执行量化,返回量化后的量化计算图,搞定~此处加载的计算图是原始的,尚未被调度,也就是所有算子都被认为是可量化的。 复制链接
由浅入深理解Latent Diffusion/Stable Diffusion(3):一步一步搭建自己的Stable Diffusion Models 36689
Diffusion Models扩散模型与深度学习(数学原理和代码解读) 35609

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

更多文章请关注《万象专栏》