首尔国立大学Ho Won Jang等:面向可行性硬件神经网络权重调控优化的两端锂基人工突触
首尔国立大学Ho Won Jang等:面向可行性硬件神经网络权重调控优化的两端锂基人工突触
nanomicroletters
Nano-Micro Letters 是上海交通大学主办的英文学术期刊,主要报道纳米/微米尺度相关的最新高水平科研成果与评论文章及快讯,在 Springer 开放获取(open-access)出版。可免费获取全文,欢迎关注和投稿。
点击蓝字 · 关注我们
锂基三端突触晶体管中,利用稳定的离子迁移实现非分布式权重优化,可表现出可靠的突触特性。由于三端器件结构复杂,而在两端突触器件中,通过有效的锂离子插层实现所需的突触性能并进行阵列集成,仍然具有挑战性。韩国首尔国立大学Ho Won Jang & Kisuk Kang课题组提出了具有硬件神经网络实现的两端Au/LiₓCoO₂/Pt人工突触,通过精确控制锂离子在LiₓCoO₂薄膜内的插层和去插层过程,实现了改进的权重控制功能。在人工神经网络模拟中,基于LiₓCoO₂的神经形态系统表现出极低的非线性和编程误差,显示出与理论最大值相当的卓越准确性,表明该神经网络在硬件实现中具有可行性。
Two Terminal Lithium Mediated Artifcial Synapses with Enhanced Weight Modulation for Feasible Hardware Neural Networks
Ji Hyun Baek, Kyung Ju Kwak, Seung Ju Kim, Jaehyun Kim, Jae Young Kim, In Hyuk Im, Sunyoung Lee, Kisuk Kang*, Ho Won Jang*
Nano-Micro Letters (2023)15: 69
https://doi.org/10.1007/s40820-023-01035-3
本文亮点
1. 首次成功展示并全面探索了具有两端垂直结构、能够实现多种突触行为(包括仿生突触可塑性)的 锂基人工突触 。
2. 基于LiₓCo₂薄膜中锂元素逐级减少的特性,通过权重控制尖峰序列精确控制多种突触特性,实现了非凡的 权重控制能力 。
内容简介
图文导读
图1显示了LiCoO₂薄膜的器件结构和表征。图中显示了两端Au(TE)/LiCoO₂/Pt(BE)人工突触的结构示意图、光学显微镜图像以及LiCoO₂晶粒的SEM形貌图等。锂离子在晶粒内沿着垂直于c轴的板状结构发生横向的各向异性扩散,平行于c轴的Li离子的垂直传输是通过晶界进行的,并且不会穿透CoO₂板。因此,具有精细晶粒尺寸的高度(003)定向的LiCoO₂薄膜使Li离子的扩散路径最小化,从而实现低能耗锂离子的快速插层和脱插层。此外,LiCoO₂外表面的CoO₂纹理防止了Li离子自发重新插入到LiCoO₂基质中,从而保证了器件的非易失特性。
图1. LiCoO₂薄膜的器件结构和表征。Au(TE)/LiCoO₂/Pt(BE)垂直两端人工突触的(a)结构示意图和光学显微镜图像,以及(b)彩色编码SEM图像;(b)中展示了 (001)取向的LiCoO₂薄膜的俯视和截面SEM图像;(c) LiCoO₂晶体的结构示意图;(d) (001)取向的LiCoO₂薄膜的XRD图谱;(e) LiCoO₂薄膜的AFM图像,其中RMS=2.2nm。
在结构为Au/LiₓCoO₂/Pt的人工突触(图2a)中,LiₓCoO₂权重控制层根据外部刺激改变器件导电性,可用于模拟突触可塑性。如图2b所示,突触连接强度随着10个负直流电压扫描逐渐增强,表现出突触增强行为;而在10个正直流电压扫描后,突触连接强度降低,表现出突触抑制行为;器件的导电性分别增加或减少了5倍。图2c展示了Au/LiₓCoO₂/Pt结构中人工突触的权重控制机制示意图。施加负电压到顶电极时,Li⁺离子从LiₓCoO₂晶格中去离子化并插入到Au薄膜中,增加了LiₓCoO₂层的导电性;施加正电压时,Li⁺离子从Au电极中提取出来并重新插入LiₓCoO₂薄膜中,降低了薄膜的导电性。并在对该人工突触器件施加周期性序列脉冲时,可以引起周期性突触增强和抑制。而由于锂离子容易迁移,该器件表现出相对较低的工作电压和快速的响应速度。
图2. Au/LiₓCoO₂/Pt人工突触的突触权重调节。(a) 生物突触与人工突触的示意图;(b) 10个连续负(正)直流电压扫描下突触权重的增强(抑制)以及电导率的增加(减少)比率。扫描速率为0.5 V/s;(c) Au/LiₓCoO₂/Pt突触器件权重控制机制示意图;(d) 突触增强和抑制的周期性行为特征。
图3. 不同尖峰间隔下的突触可塑性。(a) 短期可塑性(STP),尖峰间隔为10 s;(b) 长期可塑性(LTP),尖峰间隔为0.33 s;(c) 尖峰频率依赖可塑性(SRDP);(d) 施加10个尖峰后电导变化率;(e) 双脉冲易化(PPF)指数随两个尖峰间隔时间的变化曲线;(f) 非对称Hebbian学习规则形式下的尖峰时间依赖可塑性(STDP)。
图4a-d展示了尖峰数目依赖性可塑性(SNDP) 、尖峰电压依赖性可塑性(SVDP)、脉冲宽度依赖性可塑性(SWDP) 以及尖峰电压宽度依赖性可塑性(SVWDP)。从LTP/LTD曲线中导出非线性和对称性值进行分析:SNDP中LTP曲线的非线性(βP)值相对较低,随着电导状态数量的增加而稍微增加,100及以下的权重更新显示出可靠的对称性,提取值较高。在SVDP和SWDP中,权重控制脉冲的能量越大,线性度越差,动态范围的扩展也越大。由SVWDP曲线可见,通过不断提供足够的激活能量,可以线性地更新权重而不会饱和。图4e展示了五种不同形状的自定义LTP/LTD曲线,选择适当的尖峰条件可以实现预设的权重更新。
图4. 不同尖峰条件下的突触可塑性 (a) 尖峰数目依赖可塑性(SNDP);(b) 尖峰电压依赖可塑性(SVDP);(c) 尖峰宽度依赖可塑性(SWDP);(d) 不同电压下尖峰宽度依赖可塑性(SVWDP);(e) 使用尖峰控制形成自定义形状的 LTP/ LTD曲线。
图5. Au/LiₓCoO₂/Pt人工突触中Li离子的插层和去插层。(a, b) Au/LiₓCoO₂/Pt结构中Li离子的ToF-SIMS 3D映射和深度剖面;(c, d) LiₓCoO₂薄膜在(c)原始状态和(d)30次扫描增强后的Co 2p区XPS光谱;(e) LiₓCoO₂薄膜的拉曼光谱。
IV 基于LiₓCoO₂的神经形态系统中的图像推断
为了进一步验证基于LiₓCoO₂的突触阵列在硬件神经形态系统中的可行性,本文进行了应用人工神经网络进行图像识别的实验。图6a展示了交叉阵列结构的示意图,其性能如6b,6c所示,低噪声、微小的非线性(βP~0.3, βD~1.3)和低的编程误差表明由于器件的物理限制而导致的性能退化不显著。为了研究LiₓCoO₂人工突触中编程错误对计算成就的影响,将以浮点(FP)为基础的CNN和具有权重更新缺陷(例如非线性和噪声)的LiₓCoO₂为基础的CNN进行了图像推理准确性比较, 如图6d所示。可以看到基于LiₓCoO₂的CNN对相对较小维度数据的集MNIST、CIFAR-10和CIFAR-100的推理准确性接近网络的理论性能。
此外还实现了多层感知器(MLPs)辅助学习仿真,以评估LiₓCoO₂为基础的神经形态系统的学习能力。基于LiₓCoO₂的MLP在文件类型识别方面表现良好,仅与FP相差0.5%。在对MNIST数据集进行40次迭代训练且使用10,000个训练集后,识别精度甚至可与FP相媲美。类似地,在Fashion MNIST上的训练也达到了84.5%的精度(理论最大值为86.2%)。
图6. 基于LiₓCoO₂的神经形态系统的图像识别。(a) 神经形态回路的交叉阵列结构示意图;(b) 具有良好非线性的30个周期突触电导叠加图;(c) 器件电导的更新编程误差特征;(d) 基于FP和LiₓCoO₂的CNN在四种数据集上的推理精度;(e-g) 基于FP和LiₓCoO₂的DNN对File类型、Large MNIST和Fashion MNIST指定训练集的识别精度 。
作者简介
本文通讯作者
▍ 主要研究成果
▍ Email: hwjang@snu.ac.kr
撰稿: 《纳微快报(英文)》编辑部
关于我们
Tel: 021-34207624
扫描上方 二维码 关注我们
-
2023年血糖新标准公布,不是3.9-6.1,快来看看你的血糖正常吗? 2023-02-07
-
2023年各省最新电价一览!8省中午执行谷段电价! 2023-01-03
-
GB 55009-2021《燃气工程项目规范》(含条文说明),2022年1月1日起实施 2021-11-07
-
PPT导出高分辨率图片的四种方法 2022-09-22
-
2023年最新!国家电网27家省级电力公司负责人大盘点 2023-03-14
-
全国消防救援总队主官及简历(2023.2) 2023-02-10
-
盘点 l 中国石油大庆油田现任领导班子 2023-02-28
-
我们的前辈!历届全国工程勘察设计大师完整名单! 2022-11-18
-
关于某送变电公司“4·22”人身死亡事故的快报 2022-04-26
