2024-06-21
Innovation Highlights
SNN适用于能源（续航）受限的边缘计算场景，但易受到能耗攻击——通过恶意操纵网络参数来增加SNN计算的能耗，从而使设备快速耗尽电量。本文设计了能量导向的SNN攻击框架 (Energy-Oriented SNN attack)—EOS，在保持模型准确度的同时，通过修改存储神经元信息DRAM cell来增加混淆能耗特征，从而抵御潜在的恶意攻击。
Achievements Summary
基于脉冲编码的SNN可靠性建模与优化
SNN作为传统人工神经网络的高能效替代方案正在崭露头角。虽然SNN非常适合部署在边缘计算设备，但各种安全问题也随之浮现。蒋力团队发现：SNN实现中的能量消耗与脉冲活性密切相关，设计了一种针对SNNs的新型攻击方法—能量导向的SNN攻击框架EOS，旨在通过恶意操纵存储了神经元信息的DRAM-cell来增加其能耗。
图1. 不同噪声模式下SNN的准确度和神经元的活跃度
该框架采用了嵌入式攻击中主流的行锤攻击 (Row Hammer) 来翻转DRAM-cell的二进制位 (bit)。为了减少被发觉的可能性，通过识别SNN中脉冲活性最强大的神经元，并尽可能减少比特翻转来实现此目标。进一步，采用了脉冲活性分析和渐进搜索策略的组合来确定位翻转攻击的目标神经元，其主要目标是在确保准确性不受影响的情况下逐步增加SNN的能耗。经过实验，通过该攻击框架的实施，在不影响模型准确度的情况下，SNN平均能耗增加43%，表明了该攻击方法的隐蔽性和有效性。
图4. EOS攻击框架概述
EOS进一步回答了如何抵御能耗攻击的问题，为SNN安全提供了新视角，这对于需要在边缘设备上部署SNNs的应用场景尤为重要。相关成果收录于DAC 2024中。本论文一作为研究院实习生、上海交通大学博士生杨宁。
更多信息请阅读论文：
EOS: An Energy-Oriented Attack Framework for Spiking Neural Networks, Yilong Zhao, Mingyu Gao, Fangxin Liu, Yiwei Hu, Zongwu Wang, Han Lin, Ji Li, He Xian, Hanlin Dong, Tao Yang, Naifeng Jing, Xiaoyao Liang, Li Jiang, DAC 2024.
