我有两张黑白图片，需要计算它们的互信息。
Image 1 = X
Image 2 = Y
我知道互信息可以定义为：
MI = entropy(X) + entropy(Y) - JointEntropy(X,Y)
MATLAB已经内置了用于计算熵的函数，但没有用于计算联合熵的函数。我想真正的问题是：如何计算两幅图像的联合熵？
这里是我想要找到联合熵的图像的示例：
X =
0 0 0 0 0 0
0 0 1 1 0 0
0 0 1 1 0 0
0 0 0 0 0 0
0 0 0 0 0 0
Y =
0 0 0 0 0 0
0 0 0.38 0.82 0.38 0.04
0 0 0.32 0.82 0.68 0.17
0 0 0.04 0.14 0.11 0
0 0 0 0 0 0
256 x 256的矩阵（假设图像为无符号8位整数），并将它们初始化为全零。此外，您需要确保两个图像的大小相同（宽度和高度）。1。我们倾向于使用for循环来实现此操作，但众所周知，for循环非常慢，应尽可能避免使用。然而，在MATLAB中，您可以轻松地完成以下操作无需循环。假设im1和im2是您要比较的第一张和第二张图像。我们可以将im1和im2转换为向量。然后，我们可以使用accumarray帮助我们计算联合直方图。 accumarray是MATLAB中最强大的函数之一。您可以将其视为微型MapReduce范例。简单地说，每个数据输入都有一个键和一个关联值。 accumarray的目标是将所有属于同一键的值进行分组，并对所有这些值执行某些操作。在我们的情况下，“键”将是强度值，而值本身是每个强度值的值1。然后，我们将要添加映射到同一bin的所有1的值，这正是我们计算直方图的方式。 accumarray的默认行为是将所有这些值相加。具体来说，accumarray的输出将是一个数组，其中每个位置计算映射到该键的所有值的总和。例如，第一个位置将是映射到键1的所有值的总和，第二个位置将是映射到键2的所有值的总和，依此类推。
(i,j)，因此这里的键将是一对2D坐标。因此，在两个图像之间共享相同空间位置的具有第一个图像中强度i和第二个图像中强度j的任何强度都转到同一个键。因此，在2D情况下，accumarray的输出将是一个2D矩阵，其中每个元素(i,j)包含映射到键(i,j)的所有值的总和，类似于先前提到的1D情况，这正是我们想要的。indrow = double(im1(:)) + 1;
indcol = double(im2(:)) + 1; %// Should be the same size as indrow
jointHistogram = accumarray([indrow indcol], 1);
jointProb = jointHistogram / numel(indrow);
accumarray函数，第一个输入是键，第二个输入是值。需要注意的是，如果每个键都有相同的值，可以将常数分配给第二个输入，这就是我所做的，并且它是1。一般来说，这是与第一个输入具有相同行数的数组。还要特别注意前两行。图像中不可避免地会出现强度为0的情况，但由于MATLAB从1开始索引，因此我们需要将两个数组偏移1。
现在我们拥有联合直方图，计算联合熵非常简单。它类似于1D中的熵，只是现在我们只是在整个联合概率矩阵上求和。请记住，您的联合直方图很可能会有许多0条目。我们需要确保跳过那些或者log2操作将未定义。现在让我们消除任何零条目：
indNoZero = jointHistogram ~= 0;
jointProb1DNoZero = jointProb(indNoZero);
请注意，我搜索的是联合直方图而不是联合概率矩阵。这是因为联合直方图由整数组成，而联合概率矩阵将位于0和1之间。由于除法的问题，我想避免将此矩阵中的任何条目与0进行比较，以避免数值舍入误差和不稳定性。上述方法还将我们的联合概率矩阵转换为堆叠的一维向量，这是可以接受的。
因此，联合熵可以计算如下：
jointEntropy = -sum(jointProb1DNoZero.*log2(jointProb1DNoZero));
accumarray假定您正在尝试使用整数索引访问输出数组，但是我们仍然可以通过一些简单的方法达到想要的效果。您需要做的就是将每个图像中的浮点值都分配一个唯一的ID。因此，您将使用这些ID而不是整数来使用accumarray。为了方便地分配ID，请使用unique——特别是函数的第三个输出。您需要将每个图像放入unique中，并将其作为输入传递给accumarray。换句话说，您需要执行以下操作：[~,~,indrow] = unique(im1(:)); %// Change here
[~,~,indcol] = unique(im2(:)); %// Change here
%// Same code
jointHistogram = accumarray([indrow indcol], 1);
jointProb = jointHistogram / numel(indrow);
indNoZero = jointHistogram ~= 0;
jointProb1DNoZero = jointProb(indNoZero);
jointEntropy = -sum(jointProb1DNoZero.*log2(jointProb1DNoZero));
indrow和indcol，我们直接将unique的第三个输出分配给这些变量，然后使用先前计算的相同联合熵代码。我们也不必像以前那样将变量偏移1，因为unique将从1开始分配ID。
histogramImage1 = sum(jointHistogram, 1);
histogramImage2 = sum(jointHistogram, 2);
要计算互信息，你需要两个图像的熵。你可以使用MATLAB内置的entropy函数，但这假定有256个唯一级别。如果你想应用于存在N个不同级别的情况，你可以使用我们在上面对联合直方图的处理方法，然后计算每个图像的直方图并计算每个图像的熵。你只需重复联合熵计算所使用的熵计算方法，但是将其分别应用于每个图像：
%// Find non-zero elements for first image's histogram
indNoZero = histogramImage1 ~= 0;
%// Extract them out and get the probabilities
prob1NoZero = histogramImage1(indNoZero);
prob1NoZero = prob1NoZero / sum(prob1NoZero);
%// Compute the entropy
entropy1 = -sum(prob1NoZero.*log2(prob1NoZero));
%// Repeat for the second image
indNoZero = histogramImage2 ~= 0;
prob2NoZero = histogramImage2(indNoZero);
prob2NoZero = prob2NoZero / sum(prob2NoZero);
entropy2 = -sum(prob2NoZero.*log2(prob2NoZero));
%// Now compute mutual information
mutualInformation = entropy1 + entropy2 - jointEntropy;
for 循环的不错替代方案。 - eigenchrisaccumarray的最干净的示例之一。 - AruniRClog2为0。 - rayryeng
[0,1]范围内，则仍然可以使用我下面编写的代码，但需要确保强度为整数。如果您有8位图像，请在执行我的操作之前使用im2uint8。 - rayryeng256 x 256。 - rayryengim2uint8转换您的图像。 这将将您的图像转换为[0,255]。 此外，如果您查看MATLAB如何实现entropy命令，他们也使用im2uint8。 您需要在entropy和我们讨论的联合熵中使用相同数量的bin。 - rayryeng