今年以来，AI绘画也就是人工智能绘画，不断走热，谷歌、微软等互联网巨头也纷纷布局这一领域。在以前，艺术被认为是AI永远跨不过去的门槛。但当AI绘画开始火出圈，每个人都体验了一把“灵魂画手”速成的快感。
近日，谷歌的研究员们带来了这篇新成果，名字就叫Speed is all you need：通过GPU优化加速大规模扩散模型在设备上的推理速度。只需12秒，只凭手机自己的算力，就能拿Stable Diffusion生成一张图像。
随着大模型应用逐渐普及开来，在个人电脑、手机上跑大模型很可能是未来的新趋势。该方法是针对Stable Diffusion来做的优化，但同时也能适应其他扩散模型。面向的任务是从文本生成图像。
具体优化可以分成三个部分：设计专门的内核、提升Attention模型效率、Winograd卷积加速。设计的内核，它包括了组归一化和GELU激活函数。
组归一化是在整个UNet体系结构中实现，这种归一化的工作原理是将特征映射的通道划分为更小的组，并对每个组独立归一，使组归一化较少依赖于批大小，并且能适应更大范围的批处理大小和网络架构。
你对此表示哪些看法呢？
文章来源: https://twgreatdaily.com/zh-hans/89e4f6614c08716cb3c39e62124c33bf.html