高鸣宇

上海期智研究院PI，清华大学交叉信息研究院副教授。

美国斯坦福大学电子工程系博士、硕士，清华大学微纳电子系学士。研究兴趣在计算机架构和系统领域，包括高效的内存架构、可扩展数据处理和硬件系统安全，特别强调数据密集型应用，如人工智能和大数据分析。已在包括ISCA、ASPLOS、MICRO、HPCA、OSDI、SIGMOD和VLDB在内的顶级会议上发表论文。定期在ISCA、MICRO、ASPLOS、HPCA等顶级会议的程序委员会中服务。

个人荣誉

IEEE Micro 2016年度计算机系统结构最佳论文奖（Top Picks）

三次欧洲HiPEAC论文奖

福布斯中国30位30岁以下精英（科学榜，2019年）

存储系统架构：存算一体、异构内存、层级化内存等新型存储架构

硬件安全：密码学硬件加速和处理器可信执行环境等针对隐私计算的硬件支持

领域专用加速：人工智能、图计算、数据分析等领域专用硬件加速架构

成果7：Seesaw：通过线性算子补偿非线性缺失的隐私保护机器学习推理（2024年度）

       如何运用新技术防范黑客攻击，保护数据安全，并提升数据处理效率是亟待解决的问题。TEE环境下Path ORAM批量化加载算法Bulkor，高效图模式匹配框架PimPam，以及软硬件协同设计方案NDPBridge。

       随着数据隐私越来越被重视，基于隐私保护的机器学习应运而生。由于需要使用加密技术来保护用户数据隐私，因此其计算开销非常大，而主要瓶颈来源于非线性激活函数（如ReLU和Sigmoid）的计算。虽然现有工作试图通过减少非线性运算的数量来降低计算开销，但这往往会导致模型精度下降，使得模型精度和执行延迟之间不可兼得。

       近期，高鸣宇团队提出了一种用于隐私保护机器学习场景的神经网络架构搜索方法Seesaw，运用两种技术来解决上述困境：

（1）增加更多的线性运算以恢复模型的表征能力；

（2）通过残差连接重复使用已有的非线性运算的结果。

       Seesaw在搜索过程中考虑了线性运算的数量对在线/离线延迟的影响，并采用了新的搜索和训练策略来高效探索扩大后的搜索空间，最终得到最优的神经网络架构。

-------------------------------------------------------------------------------------------------------------------------------

成果6：在近 DRAM Bank 处理架构中的跨 Bank 协调支持—NDPBridge（2024年度）

-------------------------------------------------------------------------------------------------------------------------------

成果5：使能ORAM的批量化加载—BULKOR（2024年度）

       可信执行环境的侧信道防御是一个广受关注的课题。高鸣宇团队发现对于最广泛存在的基于内存访问模式的侧信道攻击，其防御方式ORAM的初始化过程很少被研究。经过充分调研，团队发现其过程有着大量的应用场景，并提出使能ORAM的批量化加载算法Bulkor。相较于之前的工作，Bulkor在保证高安全性的情况下实现了大幅度的性能提升。该算法有助于ORAM在更多场景下的应用。

       尽管现代加密和身份验证技术可以保护数据内容，但攻击者仍然可以通过仅观察敏感数据的访问模式来执行高级侧信道攻击，以获取私密信息。不经意随机访问存储（ORAM）协议，比如Path ORAM，是解决此问题的通用方案。ORAM可结合硬件安全技术例如可信执行环境（TEE），将客户端的部分控制逻辑放入TEE中，以减少网络通信成本。然而，与完全可信的客户端不同，TEE保护数据内容，但不保护其访问模式。在这种情况下，可信内存和不可信内存都需要做到不经意访问，这需要在TEE内设计更复杂的ORAM控制器。一些工作基于此设计了更高效的安全数据处理系统。但是很少有工作考虑到TEE环境下ORAM的初始化加载问题，此问题影响了ORAM的进一步应用。

       由此，我们提出了一个名为Bulkor的TEE环境下Path ORAM批量化加载算法，它从一开始就完全独立且随机地分配Path ORAM中每个数据块的路径。然后它根据先前分配的路径，高效和不经意地调整ORAM树中每个数据块的实际位置，以消除任何容量溢出问题。在此过程中无需更改先前分配的路径，从而不影响安全性。另外，所有块的分配和位置调整这些过程都是在元数据上进行的，位置固定后将最终位置信息提供给原数据块，因此对于数据块我们只需做一次不经意排序，从而降低了性能开销。相对于之前的方案，该算法可将理论复杂度由Ο(Nlog3⁡N)降低到Ο(Nlog2N)。实验结果显示其实际性能显着优于先前系统Oblix和ZeroTrace，达8.7至54.6倍和5.8倍至533.1倍。

论文信息：BULKOR: Enabling Bulk Loading for Path ORAM，Xiang Li, Yunqian Luo, Mingyu Gao

论文链接：https://people.iiis.tsinghua.edu.cn/~gaomy/pubs/bulkor.s&p24.pdf

-------------------------------------------------------------------------------------------------------------------------------

成果4：面向持久内存的融合基数树与可扩展哈希的索引结构（2023年度）

       现代数据密集型应用逐渐开始转向基于新型持久存储器件的内存系统，并通过将关键数据结构移植到持久内存上来持续保持其高性能。其中一个例子是用于支持高效数据查询和更新的索引结构。近期有许多关于面向持久内存上索引结构的特定优化，主要研究重点均是减少持久数据的昂贵写入代价。我们重新审视了之前的设计在真实的持久内存器件（英特尔傲腾，Intel Optane）上的表现，发现在基于树结构的索引中，以数据读取为主的树型结构遍历和树节点内搜索占据了整体延迟的主导地位。

       因此，我们提出了一种针对持久内存特定优化的索引结构，名为“可扩展基数树”（Extendible Radix Tree，ERT）。该索引结构可以显著减少树的高度以最小化随机读取开销，同时仍然保持快速的节点内搜索速度。其关键思想是对基数树中的每个节点使用可扩展哈希，以允许我们增大基数树的分支扇出而减小树的高度，并且在节点内通过哈希结构实现常数时间的查找。使用可扩展哈希还允许在插入和更新期间对节点进行增量修改而不产生过多的写入。通过在每个节点的哈希表中保持键值之间的部分顺序，可以有效而稳健地处理范围查询请求，而不引入过多的哈希冲突。实验结果表明，该索引结构相对于当前最先进的持久内存索引结构可实现2至4倍的速度提升。

       研究领域：存储系统架构

       研究论文：Ke Wang, Guanqun Yang, Yiwei Li, Huanchen Zhang, Mingyu Gao, “When Tree Meets Hash: Reducing Random Reads for Index Structures on Persistent Memories”, SIGMOD 2023. 查看PDF

-------------------------------------------------------------------------------------------------------------------------------

成果3：近存计算系统中远程访问和负载均衡的协同优化（2023年度）

       在“内存墙”时代，采用近存计算的系统架构设计范式可缓解数据密集型应用的内存访问瓶颈。基于3D内存的近存计算系统通常由大量并行的处理单元组成。当前此类系统存在两个主要问题，即远程内存访问的高昂开销和负载不均衡带来的性能下降。这两个问题互相关联耦合，在解决时需要做权衡取舍，现有方案在缓解其中一个问题时往往会导致另一个问题的进一步恶化。

       我们提出了一个协同优化远程内存访问问题和负载均衡问题的近存计算架构。为了实现更加灵活的数据和计算调度，我们使用了一个基于细粒度任务的编程模型和执行模型。我们在该任务模型中封装了每个任务的访问数据信息和计算负载信息，为数据缓存和计算调度提供了便利。在此基础上，我们提出了两点优化。为了减少远程内存访问的开销，我们提出了一个分布式的DRAM缓存方案，通过把数据复制在更近的位置来减少远程访问开销。我们还提出了一个综合考虑远程内存访问和负载均衡的调度算法，此调度算法和缓存方案协同设计，能够灵活利用数据复制带来的新的调度机会。该系统相比传统近存计算系统可达到平均1.7倍的性能提升和25%的能耗节省。

       研究领域：存储系统架构

       研究论文：Boyu Tian, Qihang Chen, Mingyu Gao, “ABNDP: Co-optimizing Data Access and Load Balance in Near-Data Processing”, ASPLOS 2023. 查看PDF

-----------------------------------------------------------------------------------------------------------------------------

成果2：大容量、高性能、兼具计算能力的新型内存架构（2023年度）

       数据存储系统是大数据和人工智能时代高性能计算机系统的必要组成部分。数据处理算法的多样化和数据量的快速增长需要计算机系统提供低成本的存储单元和高速的访问方式，以克服目前计算系统中的“内存墙（Memory Wall）”问题。本成果提出了大容量、高性能、兼具计算能力的新型内存架构，主要围绕“DRAM+NVM异构内存”与“近存计算架构”两条技术路线。

       第一，“DRAM+NVM异构内存”在传统DRAM内存中引入非易失性存储（NVM），由DRAM提供高性能数据访问，由NVM提供大容量数据存储。在硬件层面，本成果提出了基于压缩和分块的高效率异构内存管理系统，同时提高了内存访问带宽利用率和存储容量利用率，相比现有系统可达到平均1.27倍、最高1.74倍性能提升。在软件层面，本成果提出了针对NVM存储优化的高效索引结构，通过融合基数树和可扩展哈希，同时提升树型结构遍历和树节点内搜索的速度，显著优化了索引结构访问性能，相比现有系统达到2至4倍性能提升。

       第二，“近存计算架构”利用3D芯片堆叠工艺，使计算单元尽可能靠近存储单元，以避免长途的高代价数据传输。然而，此类系统中存在两个互相关联耦合的问题，即远程内存访问的高昂开销和负载不均衡带来的性能下降。本成果提出了一个协同优化远程内存访问和负载均衡的近存计算架构。通过结合细粒度任务执行模型、分布式DRAM缓存方案、综合考虑远程内存访问和负载均衡的调度算法，该系统相比传统方案可达到平均1.7倍的性能提升和25%的能耗节省。

该成果相关论文发表于计算机系统领域国际顶会ASPLOS、HPCA、SIGMOD等。同时本成果实现并部分开源了一系列硬件仿真和软件系统代码；完成了基于真实FPGA平台的硬件原型系统验证；并与相关企业进行了深入交流与合作。

-----------------------------------------------------------------------------------------------------------------------------

成果1：支持压缩和分块的高效异构内存架构（2022年度）

       通过结合多种带宽性能和存储密度特点的存储技术，异构内存架构（hybrid memory）可同时支持大容量和高性能，是大数据和人工智能算法的理想选择。目前典型的异构内存架构一般将传统DRAM作为快存，将新型非易失存储器（NVM）作为慢存。然而，现有基于替换算法设计的工作在慢存带宽利用率和快存容量利用率上只能互相权衡。为了提高异构内存系统的性能和效率，高鸣宇团队提出了使用分块（sub-blocking）和压缩（compression）技术同时提高两方面利用率，达到比之前工作更优的性能。分块技术将数据块细分为更小粒度的子块，只传输和缓存所需的子块。压缩技术将低熵数据块以压缩子块的粒度储存和传输。两种技术均采用纯硬件管理机制，无需修改上层应用，且消除了操作系统虚拟内存管理的粗粒度和缺页中断的高开销。然而，支持压缩和分块带来了更高的元数据存储开销和更复杂可变的数据布局管理挑战。团队进一步提出了“暂存区”的概念以适应数据布局在初始阶段的多变性；同时利用数据布局在稳定状态的不变性、压缩局部性等实验观察，简化元数据格式和大小。该系统相比当前最佳工作可达到平均1.27倍、最高1.74倍性能提升。该研究成果以“Baryon: Efficient Hybrid Memory Management with Compression and Sub-Blocking”为题发表于计算机系统结构领域四大顶会之一的高性能计算架构大会（HPCA）。