思考了很长时间，试图找到一种通用的方式来提出这个问题（但是没有成功），我现在打算举一个具体的例子：
假设我有一台Linux机器，其中有1GB内存可以分配给进程（物理内存和交换空间总计1GB）。
我在机器上安装了标准的Oracle Hotspot JVM版本7。如果在某个时刻，已经运行的程序占用了其中400MB，只有剩余的600MB可用，我使用以下JVM标志启动一个Java程序：
java -Xms256m -Xmx512m -jar myJar.jar
发生了什么？ :
A. JVM是否因为尝试分配所有512 MB内存而失败（因为当前可用内存不足）而无法立即启动？
如果JVM启动：
如果在某个时刻，运行中的Java进程需要超过400 MB的内存（并且除了当前Java进程已经使用的内存之外，仍然只有400 MB的空闲内存），会发生什么情况：
B. Java进程是否会因为OutOfMemoryError而失败？
C. 它是否会失败并显示其他（标准）错误信息？
D. 这是未定义的行为吗？
-Xmx仅仅定义了堆的最大大小，它不保证有足够的内存可用。它只确保堆永远不会超过给定值。话虽如此，选项B）将发生，将抛出OutOfMemoryError。
-xmx指定的内存大小，JVM将被设置为最大可用内存，并不会立即崩溃。--- 不知道-xms是否也适用。可能不是。--- 我还认为答案应该更加概括，而不是围绕着512 MB的例子，以便更清晰地向将来可能发现这个问题的其他社区成员解释。 --- 对出色的回答点赞。特别是最后一部分。 - CosmicGiant-xmx和-xms设置为2 GB，并且系统可用空间大于此值，则在运行时不会发生崩溃，直到触发OutOfMemoryError，但是如果系统的可用空间小于指定值，则-xmx将设置为小于2 GB，从而导致比-xms更小，从而触发启动崩溃。 --- 据我所理解的。 - CosmicGiantOutOfMemoryError是一种错误类型，当Java虚拟机因为内存不足无法分配对象并且垃圾回收器无法提供更多内存时，将会抛出该错误。
因此，简而言之，“B. Java进程将会因为OutOfMemoryError而失败”。
JVM进程将在虚拟内存中运行，因此其他正在运行的进程的分配问题是相关的，但并不完全决定性。
当JVM无法分配更多内存（无论出于何种原因）时，进程本身不会终止，而是开始在JVM内部抛出OutOfMemoryError，但不会在JVM外部抛出。换句话说，JVM继续运行，但在JVM内运行的程序通常会失败，因为大多数程序不能充分处理低内存条件。在这种相当普遍的情况下，当程序没有采取任何措施来处理错误时，JVM将终止程序并退出。最终，这是由内存分配引起的，但并非直接如此。在低内存条件下，代码片段可以自我缩放并继续运行。
还有其他人指出，有时JVM本身无法很好地处理低内存，但这是一个相当极端的情况。
尽管这个问题已经有10年了，但我今天也在思考这个问题，并决定实际尝试一下。 :-)
使用这个小测试程序：
import java.util.*;
public class OOMTest {
public static void main(String... atgs){
var list = new ArrayList<String>();
while(true){
list.add(new String("abc"));
}
}
}
在一台拥有4G RAM和4G交换空间的机器上（这只是我的NAS :-)）：
tomi@unyanas:~/workspace$ free -h
total used free shared buff/cache available
Mem: 3.7Gi 980Mi 2.4Gi 27Mi 355Mi 2.4Gi
Swap: 3.7Gi 2.2Gi 1.5Gi
tomi@unyanas:~/workspace$ java -Xmx1G OOMTest
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
at OOMTest.main(OOMTest.java:9)
tomi@unyanas:~/workspace$ java -Xmx10G OOMTest
Killed
总结一下：
对于上述情况，可以说这种情况是由于测试代码具有无限的内存占用，因此我还想尝试一下是否可以通过设置过高的-Xmx值使具有高生成率但内存占用有限的进程失败。因此，如果GC被愚弄以相信实际可用的内存比实际上多得多，并最终被杀死，或者如果它将被内核通知有关失败的OS级内存分配并因此限制堆大小。答案是可以愚弄它。
我已经像这样修改了上面的代码：
import java.util.*;
public class OOMTest {
public static void main(String... atgs){
var list = new ArrayList<String>();
while(true){
list.add(new String("abc"));
if (list.size() > 50000000){
list.remove(list.size() - 1);
}
}
}
}
当指定一个机器可以处理的-Xmx值时，程序可以运行任何长时间（好吧，我真的让它运行了很长时间，直到我吃晚饭，但你懂我的意思 :-)）
因此，这永远不会退出（启用GC日志记录后，一旦达到2G堆大小，就可以观察到一个漂亮的重复模式）：
java -Xmx2G OOMTest
但是当使用Xmx10G运行时，进程再次被杀死，没有OOM：
tomi@unyanas:~/workspace$ java -Xmx10G OOMTest
Killed