| 近几年来，众多研究者对压缩与智能之间的关系进行了探讨。实际上，探究压缩和智能的联系已有悠久历史，至少可追溯至图灵关于可计算性的研究。此后紧随香农的信息论，1960年代 Solomonoff、Kolmogorov 和 Chaitin 独立提出并发展算法信息论，该领域逐渐引入了诸如柯式复杂度这样的重要概念：即复杂度衡量的是在通用图灵机上生成某个对象的最短程序长度。虽然严格的柯式复杂度是不可计算的，但有效的压缩算法是一种逼近的途径。
将柯式复杂度和压缩算法结合起来，就可以定义出距离。而距离是很多研究的出发点，比如两个词向量意义很接近就是因为它们的距离很近、两个药物分子的功能相近也可能是因为它们本身或某部分之间的距离很近、若干物种间的进化关系也是通过距离构建的。 |
最新评论