# KAN: Kolmogorov-Arnold Networks
- **作者:** Ziming Liu, Yixuan Wang, Sachin Vaidya, Fabian Ruehle, James Halverson, Marin Soljačić, Thomas Y. Hou, Max Tegmark
- **提交日期:** 2024年4月30日(v1),最后修订于2025年2月9日(v5)
- **分类:** 机器学习 (cs.LG); 无序系统与神经网络 (cond-mat.dis-nn); 人工智能 (cs.AI); 机器学习 (stat.ML)
- **论文链接:** [arXiv:2404.19756](https://arxiv.org/abs/2404.19756)
- **开源代码:** [pykan](https://github.com/KindXiaoming/pykan)
- **会议:** ICLR 2025(Conference version)
### 摘要
受Kolmogorov-Arnold表示定理的启发,本文提出了Kolmogorov-Arnold网络(KANs),作为多层感知机(MLPs)的一种有前景的替代方案。与MLPs在节点(“神经元”)上使用固定激活函数不同,KANs在边(“权重”)上使用可学习的激活函数。KANs完全没有线性权重——每个权重参数都被替换为一个用样条函数参数化的单变量函数。我们表明,这一看似简单的改变使得KANs在准确性和可解释性方面都优于MLPs。
在准确性方面,更小的KANs可以在数据拟合和偏微分方程求解中达到与更大的MLPs相当或更好的精度。从理论和实验上,KANs拥有比MLPs更快的神经缩放定律。在可解释性方面,KANs可以被直观地可视化,并且可以轻松地与人类用户交互。通过数学和物理学中的两个示例,KANs被证明是帮助科学家(重新)发现数学和物理定律的有用合作者。
总之,KANs是MLPs的有前途的替代方案,为进一步改进当前严重依赖MLPs的深度学习模型开辟了机会。