發展歷程
早在1940年代,McCulloch和Pitts就已開始了以神經元作為邏輯器件的研究。1960年代,Rosenblatt提出了模擬學習和識別功能的“感知機”模型,其構造和規則曾轟動一時,但終因此類機器嚴格的局限性而很快冷落下來。到1982年,Hopfield提出了一種新的理論模型。這一模型簡明地反映了大腦神經系統的分散式記憶存儲、內容定址、聯想以及局部細胞損壞不靈敏等特性。與此同時,神經網路在解決“推銷員旅行”問題、語音識別、音樂片斷的學習創作、英語智慧型讀音系統等方面,都取得了令人鼓舞的結果。因此人工神經網路的研究熱潮在80年代初期又重新興起,成為多學科共同關注的跨學科新領域。不同學科研究神經網路的方法雖不盡相同,但目的都是為了探索大腦智慧型的機制和實現智慧型計算機。人工神經網路研究的進展,使研製神經網路計算機的歷史任務落到了現代高科技的面前。這是社會對智慧型計算機的迫切需要。實現技術
人工神經網路的主要特點是大量神經元之間的加權互連。這就是神經網路與光學技術相結合的重要原因。電子技術與光學技術相比,精確度高,便於程式控制,抗噪聲能力強。但是,隨著計算機晶片集成度和速度的提高,計算機中的引線問題已成為一個嚴重的障礙。由於電子引線不能互相短路交叉,引線靠近時會發生耦合,高速電脈衝在引線上傳播時要發生色散和延遲,以及電子器件的扇入和扇出係數較低等問題,使得高密度的電子互連在技術上有很大困難。超大規模積體電路(VLSI)的引線問題造成的時鐘扭曲(clockskew),嚴重限制了諾依曼型計算機的速度。而另一方面,光學互連是高度並行的,光線在傳播時可以任意互相交叉而不會發生串擾,光傳播速度極快,其延時和色散可以忽略不計,加上光學元件的扇入和扇出係數都很高,因此光學互連具有明顯的優勢。
正因如此,許多科學家早已開始研究採用光學互連來解決VLSI的引線問題,以及晶片之間、插板之間的連線問題。此外,光學運算的高度並行性和快速實現大信息量線性運算的能力,如矩陣相乘,二維線性變換,二維卷積、積分等,也是用光學手段實現人工神經網路的有利條件。光學信息處理雖有高速度及大信息量並行處理和優點,但要滿足模糊運算和隨機處理的要求還是遠遠不夠的。光學信息處理性能的改進,要求在傳統的線性光學處理系統中引入非線性,而這些問題的解決與神經網路的光學實現恰好不謀而合。光學信息處理中的許多課題,如光計算、圖像變換、相關濾波、特徵提取、邊緣增強、聯想存儲、噪聲消除等,都可以用神經網路的方法來完成。
關於光學神經網路的研究,國內外已提出許多不同的硬體系統。例如,基於光學矢量矩陣相乘的Hopfield網路的外積實現,採用全息存儲和共軛反射鏡(PCM)的全光學系統,採用液晶開關陣列、液晶光閥以及其它空間光調製器(SLM)的內積型光學神經網路,光電混合全雙極“WTA”網路等等。光學神經網路已成為人工神經網路研究的一個重要組成部分。
面臨問題
神經網路處理器已取得重要的進展,但仍存在許多亟待解決的問題。如處理精確度不高,抗噪聲干擾能力差,光學互連的雙極性和可程式問題以及系統的集成化和小型化問題等。這些問題直接關係到神經網路計算機的進一步發展、性能的完善及廣泛的實用化。
中國發展
2016年,中科院計算所發布全球首個“神經網路”處理器科研成果。題組負責人之一、中科院計算所副研究員陳天石用“水和碗的關係”來比喻這個名為“寒武紀”的神經網路處理器。
據陳天石介紹,課題組團隊已開始著手進行科研成果的產業化,今年年內就將正式啟動。未來套用瞄準企業、科研院所等高性能伺服器、高效能終端晶片、機器人晶片三大領域。