第一作者和單位：陳鵬，浙江大學
通訊作者和單位：潘綱 教授，浙江大學；林芃 研究員，浙江大學
原文鏈接：https://doi.org/10.1038/s41467-023-41958-4
關鍵詞
電化學隨機存儲器；人工神經網絡；片上學習
招生招聘
該論文主要介紹了浙江大學潘綱-林芃團隊針對傳統憶阻器件受限于自身阻變機制，無法高效準確完成多阻態更新的難題，設計了一種更加適合神經網絡訓練任務的電化學存儲器件（ECRAM），突破了憶阻器等存算一體器件無法直接實現高精度權重更新的固有瓶頸。該團隊進一步利用該器件的優異特性，設計和制造了無源人工突觸陣列，構建了可用于片上學習任務的人工突觸系統。在該系統中，模擬器件的權值更新任務可以通過脈寬調制的單個脈沖來實現，極大地簡化了傳統模擬器件的權值更新過程，高效且準確地實現了連續的圖案寫入、雙層神經網絡在線訓練等任務。
背景介紹
人工神經網絡是當前機器智能發展的主要動力，其依賴于在軟件層面模擬生物神經網絡中的突觸及神經元等基本功能單元及其連接結構，從而塑造其對特定任務的學習和推理能力。這樣的智能算法實現過程伴隨著巨大的成本，而通過采用模擬器件來表示神經網絡中突觸等基本單元，有望實現在速度和能效方面更有優勢的AI硬件。這樣的模擬器件需要滿足的要求包括在較大動態范圍內大量模擬狀態（電導）的快速且準確地切換、較長的模擬狀態保持時間等，并且需要可靠的大規模陣列芯片制備手段支撐。然而在實際應用中，新型存儲器件如憶阻器等受限于自身復雜且隨機的阻變過程，其電導調制通常具有噪聲大、高度非線性等特點，導致其需要一個漫長的讀寫迭代過程來實現可接受的電導調制精度，極大地限制了其在神經網絡訓練等需要高頻次器件更新的任務上的使用。本文報道了一種高精度、開環（open-loop）可編程的ECRAM陣列，通過脈沖寬度調制的單個電壓脈沖來實現器件的高效、準確阻態更新，并從實驗上驗證了其在圖像存儲、并行計算和片上學習等方面的應用潛力。
圖文導讀
通過相同電壓脈沖實現ECRAM電導線性且對稱的調制，是實現其高精度開環編程的器件基礎，其微觀機制通常需要滿足兩個基本條件：溝道氧化物的電導率和其內部的氧空位濃度具有準線性的關系，同時氧空位在溝道/電解質界面處的移動是穩定且可逆的。因此，本文首先整體設計并優化了溝道層和電解質層的材料和工藝，實現了接近理想的ECRAM阻變性能（如圖1所示），包括線性、對稱性、均一性等。
圖1. 高性能ECRAM器件。a) 在多個電導區間的線性、對稱電導更新，b) 器件均一性，c) 溝道線性I-V特性，d) 阻態保持性，e-g) 高精度并行模擬計算。
在此基礎上，該論文設計了一種開環器件更新算法（如圖2所示），通過單個寬度調制的電壓脈沖來實現器件多阻態間的高效準確更新，相較于傳統的需要多個讀寫迭代周期的更新方式（write-and-verify）具有顯著的效率優勢。
圖2. a) ECRAM陣列的光學圖片，b) ECRAM器件的TEM截面圖，c) ECRAM電導調制特性，d) 開環（open-loop）和閉環（closed-loop）調控方法對比。
基于上述ECRAM陣列和器件電導更新方法，該論文先后在實驗上驗證了其在圖案寫入、雙層神經網絡在線訓練等方面的應用潛力。研究人員采用ECRAM器件作為基本突觸單元，構建了一個10×10的無源陣列，該陣列能夠通過上述器件編程方法完成高精度的連續梯度圖案寫入（圖3）。進一步地，研究人員在實驗上構建了兩層神經網絡，其中的矩陣運算和更新都在ECRAM陣列中原位完成，在蘑菇食用毒性檢測任務中實現了和軟件同樣的分類準確度（圖4）。最后，該論文還模擬驗證了ECRAM陣列在大規模神經網絡中的應用潛力。
圖3. a-c) 在ECRAM陣列中通過開環更新方法實現連續梯度圖案寫入。
圖4. a-d)通過ECRAM陣列構建的人工神經網絡片上學習系統，并通過蘑菇食用毒性數據集驗證了其片上學習能力。e-g) 神經網絡訓練中ECRAM陣列的權值演化過程。
總結與致謝
該工作通過構建ECRAM陣列和open-loop器件更新算法，驗證了其在片上學習等方面的應用價值，為未來發展高能效AI技術提供了新的工作思路。相關研究工作得到了科技創新2030重大項目、國家自然科學基金、浙江省重點研發計劃、浙江省自然科學基金重大項目以及中央高校基本科研業務費的資助。
文章鏈接
Chen, P., Liu, F., Lin, P., Li, P., Xiao, Y., Zhang, B., Pan, G., Open-loop analog programmable electrochemical memory array. Nat Commun 14, 6184 (2023). https://doi.org/10.1038/s41467-023-41958-4
科研留聲機
科研留聲機是“天璣算·科研服務”旗下公益性的學術分享平臺之一。主要發布與科研相關的知識信息，包括頂刊解讀、學術干貨、求職招聘等。觀看免費計算類課程可到天璣算學術網：www.phadwiki.com/
130篇原創內容
公眾號
版權聲明：本文內容由互聯網用戶自發貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容， 請發送郵件至 舉報，一經查實，本站將立刻刪除。