第135章 逻辑与生成的结合
  虽然方博被那一夜速成的代码震得怀疑人生,但在徐辰眼里,屏幕上那个正在跑的demo,其实……
  很简陋。
  甚至可以说是“丑陋”。
  “demo虽然跑通了,证明了『逻辑嵌入』这条路是可行的。但是,”徐辰看著代码里那几行关於盒子体积的计算公式,眉头微微皱起,“这个数学模型,太粗糙了。”
  现在的模型,是用“超矩形”来表示概念。比如“猫”是一个小盒子,“动物”是一个大盒子。
  这种表示法虽然直观,但在数学上有一个致命的缺陷——梯度硬截断。
  当两个盒子完全没有交集时,体积重叠为0,梯度也瞬间变为0。这就意味著,反向传播在这里断掉了,神经网络学不到任何东西。为了解决这个问题,徐辰在代码里加了一个很丑的“平滑项”,但这只是权宜之计,治標不治本。
  “这就像是用一堆方块去拼一个圆,无论怎么拼,边缘永远是锯齿状的。”
  徐辰的数学强迫症犯了。
  “必须要优化。我需要一个更『光滑』的几何结构。”
  他的大脑飞速运转,lv.2的数学直觉开始接管键盘。
  “为什么非要用盒子呢?”
  【写到这里我希望读者记一下我们域名 101 看书网书库广,????????????.??????任你选 】
  “逻辑的本质是『偏序关係』。在向量空间里,能完美表达偏序关係的,不一定是闭合的盒子,也可以是……锥!”
  “或者,引入高斯分布,利用kl散度来衡量包含关係?”