2024-05-06
袁洋团队提出了一种崭新的分析对比学习算法的视角,使用马尔科夫随机场作为分析工具,证明了SimCLR算法和在相似图上做某种谱聚类算法是严格等价的。该工作可以用来启发设计新的基于核函数的损失函数,在一些数据集上取得更好的结果,进一步支持了范畴论可以作为大模型的基础理论框架的学术观点。
论文标题:Contrastive Learning is Spectral Clustering on Similarity Graph
论文作者:Zhiquan Tan*, Yifan Zhang*, Jingqin Yang*, Yang Yuan
项目链接:https://github.com/yifanzhang-pro/Kernel-InfoNCE.