今年以來,AI繪畫也就是人工智慧繪畫,不斷走熱,谷歌、微軟等網際網路巨頭也紛紛布局這一領域。在以前,藝術被認為是AI永遠跨不過去的門檻。但當AI繪畫開始火出圈,每個人都體驗了一把「靈魂畫手」速成的快感。
近日,谷歌的研究員們帶來了這篇新成果,名字就叫Speed is all you need:通過GPU優化加速大規模擴散模型在設備上的推理速度。只需12秒,只憑手機自己的算力,就能拿Stable Diffusion生成一張圖像。
隨著大模型應用逐漸普及開來,在個人電腦、手機上跑大模型很可能是未來的新趨勢。該方法是針對Stable Diffusion來做的優化,但同時也能適應其他擴散模型。面向的任務是從文本生成圖像。
具體優化可以分成三個部分:設計專門的內核、提升Attention模型效率、Winograd卷積加速。設計的內核,它包括了組歸一化和GELU激活函數。
組歸一化是在整個UNet體系結構中實現,這種歸一化的工作原理是將特徵映射的通道劃分為更小的組,並對每個組獨立歸一,使組歸一化較少依賴於批大小,並且能適應更大範圍的批處理大小和網絡架構。
你對此表示哪些看法呢?
文章來源: https://twgreatdaily.com/zh-cn/89e4f6614c08716cb3c39e62124c33bf.html