选择语言
< 返回主菜单

对比学习的理论分析

2024-05-06


1714969433961.jpg


       袁洋团队提出了一种崭新的分析对比学习算法的视角,使用马尔科夫随机场作为分析工具,证明了SimCLR算法和在相似图上做某种谱聚类算法是严格等价的。该工作可以用来启发设计新的基于核函数的损失函数,在一些数据集上取得更好的结果,进一步支持了范畴论可以作为大模型的基础理论框架的学术观点。

袁洋.png

论文标题:Contrastive Learning is Spectral Clustering on Similarity Graph

论文作者:Zhiquan Tan*, Yifan Zhang*, Jingqin Yang*, Yang Yuan

项目链接:https://github.com/yifanzhang-pro/Kernel-InfoNCE.