大家好，我是顺亿，今天我们来聊聊KAN网络技术，它真的能超越MLP和Transformer吗？这篇文章会带你深入了解KAN的原理、架构和特点。
什么是KAN？
KAN网络结构灵感来源于Kolmogorov-Arnold表示定理。它和MLP最大的不同在于，KAN在边（权重）上具有可学习的激活函数，而MLP在节点（神经元）上具有固定的激活函数。
在数据拟合和PDE求解中，KAN可以比MLP获得更好的准确性，并且它还具备更好的可解释性，适合作为数学和物理研究中的辅助模型。
KAN与MLP的对比
- 激活函数位于“边”而不是节点上；
- 激活函数是可学习的而不是固定的；
- 可以使用非线性核函数来替代MLP“边”上的线性函数；
- 可以设定细粒度的结点来提高逼近精度。
其中，特点1并非KAN的核心特征，特点4在实际使用时需要做大量的查表插值，对存储带宽的要求非常高，可能并不一定适合常规的AI芯片进行计算。
KAN的架构与缩放
KAN的架构设计基于一个数学问题：对一个由输入输出对 {xi, yi} 组成的有监督学习任务，寻找函数f 使得所有数据点的 yi≈ f (xi)。在KAN中，使用B-spline（B样条）来构建。
KAN的可解释性
由于KAN在边（权重）上具有可学习的激活函数，因此它比MLP具有更好的可解释性。
总结与拓展
今天我们介绍了KAN网络技术，它是一种很有潜力的深度学习模型。未来，KAN可能会在更多领域得到应用。
我是顺亿，如果你对KAN网络技术还有其他疑问，欢迎关注「趣航编程网」（www.vqhf.com）了解更多内容。