神經(jīng)網(wǎng)絡(luò)加速器基本上是一個中介拓?fù)浼軜?gòu)的神經(jīng)網(wǎng)絡(luò)加速器，其通過指令解析模塊將不同指令分發(fā)到不同的數(shù)據(jù)處理模塊。這些數(shù)據(jù)處理模塊共享片上的存儲。這種結(jié)構(gòu)的優(yōu)點有： 1） 結(jié)構(gòu)簡單，控制起來容易。對應(yīng)每個數(shù)據(jù)處理模塊都對應(yīng)一個復(fù)雜指令，在進(jìn)行神經(jīng)網(wǎng)絡(luò)加速的時候，只需要根據(jù)神經(jīng)網(wǎng)絡(luò)的中的不同數(shù)據(jù)計算部分，提取出可在硬件上進(jìn)行布置的部分，根據(jù)這部分完成指令編寫。同時一個神經(jīng)網(wǎng)絡(luò)的計算流圖決定了不同類型指令之間的依賴關(guān)系。 2） 可擴展性強。數(shù)據(jù)處理模塊可以任意進(jìn)行擴展，對應(yīng)著指令集也可以任意增加。每個模塊和指令的接口以及cache的接口形式是一定的，它們之間可以通過cache來進(jìn)行數(shù)據(jù)交互。指令集和模塊的增加和減少都不會影響到整體架構(gòu)。我們只要開發(fā)出新的模塊IP以及指令就夠了。