信息模型与本体论的区别是什么？ 它们对我来说看起来很相似。 谢谢！

众所周知，GZIP或DEFLATE（或任何压缩机制）有时可以增加文件大小。那么文件增大的最大百分比或常数是多少？ 如果一个文件大小为X字节，并且我将对其进行gzip压缩，并且需要提前预算文件空间，那么最坏情况是什么？ 更新：有两个开销：GZIP添加标头，通常为18个字节，但实际上可以任意长...

我有一个大小为MxN的数组，想要计算每一行的熵值。最快的方法是什么？

让我澄清一下，我的意思不是指一个算法能够压缩任何给定的源材料，我意识到这是不可能的。我想表达的是，有一种算法能够将任何源比特串编码为其绝对最大的压缩状态，由其香农熵确定。 我认为我听说过哈夫曼编码在某种意义上是最优的，因此我认为这种加密方案可能基于此，但这是我的问题： 考虑比特串：a =“...

信息理论涉及到编码和解码的任何地方。例如：压缩（多媒体），密码学。 在信息理论中，我们会遇到像“熵”、“自信息”、“互信息”这样的术语，整个学科都是基于这些术语的。但它们听起来只是抽象的东西，实际上并没有什么意义。 是否有任何书籍/材料/解释（如果可以）以实用的方式解释这些内容? 编辑：...

编辑: 哇，很多很好的回复。是的，我将其用作遗传算法执行排序的质量健身函数。因此，评估成本很重要（即必须快速，最好是O(n)）。 作为我正在玩耍的AI应用程序的一部分，我希望能够根据候选整数数组的单调性（也称为“有序性”）对其进行评分。目前，我使用一种启发式方法来计算最长的排序运行时...

来自我的算法教材： 每年一次的县级赛马比赛将有三匹从未相互竞争的纯种马参加。你兴奋地研究了它们过去200场比赛，并将其总结为四个结果的概率分布：第一名（“第一名”），第二名，第三名和其他。 Outcome Aurora Whir...

我对熵公式的理解是，它用于计算表示某些数据所需的最小位数。通常在定义时措辞不同，但前面的理解是我至今依赖的。 这是我的问题。假设我有一个由100个“1”后跟100个“0”组成的序列= 200位。字母表为{0,1}，熵的基数为2。符号“0”的概率为0.5，“1”的概率为0.5。因此，熵为1或1...

我知道维基百科和MacKay的信息论、推断和学习算法（作为教材是否合适？）。我正在寻找一本从Shannon熵开始，经过条件熵和互信息的教材... 有什么想法吗？如果你在大学里跟着这样的课程，使用的教材是什么？ 谢谢。