“……所以说苏神你是想要一个高维特征的正交损失？”
在和苏飞一阵交流后，陆涛理解到了苏飞的意图。
“对，而且不能是简单地用两个高维向量的内积，高维特征的内积几乎都是0，这没有什么意义。”苏飞说道。
陆涛点了点头，道：“的确如此，高维向量几乎都是两两正交，毕竟随着维数的增加，它们在欧几里得空间中在对方的方向上的投影也都越来越接近于零，数值太小就没有作为损失函数的意义了。”
“或许可以转换它们的内积，先把高维特征的表示方式转换一下再做内积，比如说把高维特征转换成三角函数系的表示方式，三角函数系的正交性比较好，而且函数都是光滑且连续的，求导也方便，当然，除了三角函数系，还有walsh函数系和haar函数系等，也都可以考虑。”
苏飞对于walsh函数系和haar函数系只是一知半解，但听到三角函数系，便不禁点点头，说道：“傅里叶变换就是利用三角函数系的正交性构造而成的，我之前也有系统研究过傅里叶变换以及与之相对应的小波变换，它的实用性确实很高。”
“苏神，其实还可以考虑构造多项式，具有正交性的多项式还是不少的，比如切比雪夫多项式、勒让多项式、拉盖尔多项式之类的，效果应该也不差。”陆涛补充道。
啥玩意？
苏飞一脸懵逼，除了切比雪夫多项式他有些了解外，另外两个听都没听过。
当然，这不妨碍他点点头表示赞同。
“还有一种思路，先把高维特征进行降维，只要维数降下来，内积自然而然就会增大，这样一来把它们的内积作为损失函数效果肯定不差。”陆涛沉思了一会儿，又道：“只不过降维必定会丢失部分信息，会影响模型的性能。”
“损失函数对模型性能的影响更大，所以我觉得降维这个方法可行，只不过到时候要找到一个平衡两者的中间值，这主要取决于降维方法和降低的维数。”
苏飞倒是颇为赞同这个提案，虽然降维必定会丢失信息，但两害相较取其轻，很多时候没有完美的办法。
陆涛的这个思路真的不错……只能说不愧是数学系的学神么，就这么一会儿功夫，就拿出了三个思路。
果然，专业的事还是得拜托专业的人啊。
陆涛和苏飞两人讨论了好一会儿，研究室的师兄师姐们都被这俩学神给惊到了，这俩人的语速那可是相当快，嘴里蹦出的一个个专业名词整得他们一脸懵，简直就像在进行加密通话一样，生怕别人能听懂。
这俩人甚至一边说还一边在草稿纸上写写画画，这思考速度简直就不是凡人能比的。
“……苏神，我会先去试试降维方法，降维完后再变换函数系试试。”
“行
请收藏：https://m.ysw8.cc
（温馨提示：请关闭畅读或阅读模式，否则内容无法正常显示）