OA0
OA0 是一个探索 AI 的社区
现在注册
已注册用户请  登录
OA0  ›  论文  ›  abs/2404.19756

Kolmogorov-Arnold Networks:以可解释函数结构替代传统 MLP

 
  laser ·  2026-07-24 11:01:17 · 10 次点击  · 0 条评论  
# KAN: Kolmogorov-Arnold Networks

- **作者:** Ziming Liu, Yixuan Wang, Sachin Vaidya, Fabian Ruehle, James Halverson, Marin Soljačić, Thomas Y. Hou, Max Tegmark
- **提交日期:** 2024年4月30日(v1),最后修订于2025年2月9日(v5)
- **分类:** 机器学习 (cs.LG); 无序系统与神经网络 (cond-mat.dis-nn); 人工智能 (cs.AI); 机器学习 (stat.ML)
- **论文链接:** [arXiv:2404.19756](https://arxiv.org/abs/2404.19756)
- **开源代码:** [pykan](https://github.com/KindXiaoming/pykan)
- **会议:** ICLR 2025(Conference version)

### 摘要
受Kolmogorov-Arnold表示定理的启发,本文提出了Kolmogorov-Arnold网络(KANs),作为多层感知机(MLPs)的一种有前景的替代方案。与MLPs在节点(“神经元”)上使用固定激活函数不同,KANs在边(“权重”)上使用可学习的激活函数。KANs完全没有线性权重——每个权重参数都被替换为一个用样条函数参数化的单变量函数。我们表明,这一看似简单的改变使得KANs在准确性和可解释性方面都优于MLPs。

在准确性方面,更小的KANs可以在数据拟合和偏微分方程求解中达到与更大的MLPs相当或更好的精度。从理论和实验上,KANs拥有比MLPs更快的神经缩放定律。在可解释性方面,KANs可以被直观地可视化,并且可以轻松地与人类用户交互。通过数学和物理学中的两个示例,KANs被证明是帮助科学家(重新)发现数学和物理定律的有用合作者。

总之,KANs是MLPs的有前途的替代方案,为进一步改进当前严重依赖MLPs的深度学习模型开辟了机会。
10 次点击  ∙  0 人收藏  
登录后收藏  
0 条回复
关于 ·  帮助 ·  PING ·  隐私 ·  条款   
OA0 - Omni AI 0 一个探索 AI 的社区
沪ICP备2024103595号-2
耗时 11 ms
Developed with Cursor