GPU阻礙AI創新發展　市場主推IPU

人工智慧趨勢已席捲整個市場，GPU(圖像處理器) 被廣泛運用來加速人工智慧計算，但 GPU 技術的局限性是否會減緩人工智慧的神經網路發展與創新?

在 EETimes 最近一次採訪中，Graphcore 首席執行長 Nigel Toon 接受一場訪問主題為：「IPU 是否為迄今為止最複雜的處理器？」時解釋說，雖然 GPU 擅長運行卷積神經網絡 (CNN) 但它們不適合運行更複雜的機器學習，像是強化學習或其他未來技術所需的神經網路。

他說道：「如果你要的只是基本前饋控制的 CNN，GPU 是一個非常好的解決方式，不過當你開始使用更複雜的神經網路時，就可能出現問題。我希望能夠透過多個層而得到反饋，而不是一次一層進行而得到。另外我還想要先能將訊息儲存在一旁，這麼一來，在我查看下一祥資料時，我可以將先前的訊息當作其上下文訊息。」

「如果我的數據正在變化 - 這意思是說，它是我可以平行輸入的數以百萬計個靜態圖像 - 如果它是影片，並且我對幀數順序有要求，那麼將它平行輸入，就更難利用 GPU 中的寬 SIMD 處理。」Toon 補充解釋道。

SIMD 小檔案

Single Instruction Multiple Data，單指令多數據流，GPU 是「由數個多執行緒架構的 SIMD 處理器所組成的 MIMD 多處理器環境」

卷積神經網路小檔案

在機器學習中，CNN (Convolutional Neural Networks) 是一種前饋神經網路，卷積神經網路是由一個或多個卷積層和頂端的全聯通層組成，同時也包括聯權重和池化層。

CNN 的人工神經元可以回應一部份覆蓋範圍內的周圍單元，可應用於語音辨識、圖像辨識，尤其對大型圖像處理有出色的表現。

IPU 的前瞻領導 Graphcore

專為機器學習應用程式研發設計 IPU 晶片的 Graphcore，於 2017 年創立，目前已經吸引到像是英國的人工智慧公司 DeepMind 創辦人 Demis Hassabis，包括以及 OpenAI 的創辦人 Ilya Sutskever 的支持，並且和其他許多在機器學習中領先業界的研究者合作，根據不同的問題來設計 IPU 相對應的解決架構。

他說：「我們訪問的所有在 AI 領域的發明家，他們都指出，使用 GPU 會限制他們研發創新」他補充說道，「如果看一下他們正在研究的卷積神經網絡的形式，因為遞歸神經網絡和其他類型的機器學習，像是強化學習，無法很好的映像到 GPU。由於沒有足夠好的硬件平台，研究領域受到阻礙，這也是我們試圖將 IPU 推向市場的原因」。

開發 ASIC 處理器

Toon 也接著介紹這款為了加速特定神經網路而打造的 ASIC (特殊應用積體電路) 加速器，它也能針對 AI 所使用的 FPGA 解決方案作處理，這證明了 GPU 工作效能不如預期。

他說，就機器智慧而言，它需要一種易於使用的處理器，並且專為機器智慧打造。

Graphcore 的 IPU 旨在容納整個機器學習模型，提供資料大規模的平行性、大量內存、以及最重要的大量記憶體頻寬。

最終效果便是非常快速的神經網路。與 GPU 相比，IPU 之於 CNN 的速度提高了 5 倍，就像是比起目前常見的靜態圖像處理，相對更複雜的圖像，它們的速度能提高至 50 倍

這些複雜的神經網路無疑是 AI 的未來，不過它們的發展速度仍取決於開發專用於 AI 的加速器。