Websocket SSL握手失败

7
我有一个使用Spring Boot Tomcat服务器来建立安全WebSocket连接的应用。该服务器能够接受Android 4.4、iOS、Firefox和Chrome客户端,并使用经过授权的证书保证连接的安全性。然而,Android 5.0在SSL握手时会失败。
Caused by: javax.net.ssl.SSLHandshakeException: Handshake failed
        at com.android.org.conscrypt.OpenSSLEngineImpl.unwrap(OpenSSLEngineImpl.java:436)
        at javax.net.ssl.SSLEngine.unwrap(SSLEngine.java:1006)
        at org.glassfish.grizzly.ssl.SSLConnectionContext.unwrap(SSLConnectionContext.java:172)
        at org.glassfish.grizzly.ssl.SSLUtils.handshakeUnwrap(SSLUtils.java:263)
        at org.glassfish.grizzly.ssl.SSLBaseFilter.doHandshakeStep(SSLBaseFilter.java:603)
        at org.glassfish.grizzly.ssl.SSLFilter.doHandshakeStep(SSLFilter.java:312)
        at org.glassfish.grizzly.ssl.SSLBaseFilter.doHandshakeStep(SSLBaseFilter.java:552)
        at org.glassfish.grizzly.ssl.SSLBaseFilter.handleRead(SSLBaseFilter.java:273)
        at org.glassfish.grizzly.filterchain.ExecutorResolver$9.execute(ExecutorResolver.java:119)
        at org.glassfish.grizzly.filterchain.DefaultFilterChain.executeFilter(DefaultFilterChain.java:284)
        at org.glassfish.grizzly.filterchain.DefaultFilterChain.executeChainPart(DefaultFilterChain.java:201)
        at org.glassfish.grizzly.filterchain.DefaultFilterChain.execute(DefaultFilterChain.java:133)
        at org.glassfish.grizzly.filterchain.DefaultFilterChain.process(DefaultFilterChain.java:112)
        at org.glassfish.grizzly.ProcessorExecutor.execute(ProcessorExecutor.java:77)
        at org.glassfish.grizzly.nio.transport.TCPNIOTransport.fireIOEvent(TCPNIOTransport.java:561)
        at org.glassfish.grizzly.strategies.AbstractIOStrategy.fireIOEvent(AbstractIOStrategy.java:112)
        at org.glassfish.grizzly.strategies.WorkerThreadIOStrategy.run0(WorkerThreadIOStrategy.java:117)
        at org.glassfish.grizzly.strategies.WorkerThreadIOStrategy.access$100(WorkerThreadIOStrategy.java:56)
        at org.glassfish.grizzly.strategies.WorkerThreadIOStrategy$WorkerThreadRunnable.run(WorkerThreadIOStrategy.java:137)
        at org.glassfish.grizzly.threadpool.AbstractThreadPool$Worker.doWork(AbstractThreadPool.java:565)
        at org.glassfish.grizzly.threadpool.AbstractThreadPool$Worker.run(AbstractThreadPool.java:545)
at java.lang.Thread.run(Thread.java:818)
 Caused by: javax.net.ssl.SSLProtocolException: SSL handshake terminated: ssl=0xa1f34200: Failure in SSL library, usually a protocol error
error:1408E0F4:SSL routines:SSL3_GET_MESSAGE:unexpected message (external/openssl/ssl/s3_both.c:498 0xac526e61:0x00000000)
        at com.android.org.conscrypt.NativeCrypto.SSL_do_handshake_bio(Native Method)
        at com.android.org.conscrypt.OpenSSLEngineImpl.unwrap(OpenSSLEngineImpl.java:423)

我认为问题出在TLS或密码套件上,可能是由于Android 5.0 Lollipop的更改,而不是证书的问题,因为其他客户端可以连接,但我无法弄清楚连接的客户端发生了什么,因为Android似乎不支持SSL调试。 该问题很可能与此问题非常相似,该问题尚未解决,但表明问题出在密码套件上。 Android错误8831381603developer-preview-1989似乎表明Android实现正确,但服务器配置或密码套件的实现可能存在问题。
我已经设置了以下服务器密码套件。
server.ssl.ciphers = TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA,TLS_RSA_WITH_AES_128_CBC_SHA,TLS_DHE_RSA_WITH_AES_128_CBC_SHA,TLS_DHE_DSS_WITH_AES_128_CBC_SHA

特别是,TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA在Android API 11+的支持协议列表中。我已验证服务器支持此协议。
openssl s_client -connect server:port

返回

SSL-Session:
Protocol  : TLSv1.2
Cipher    : ECDHE-RSA-AES128-SHA

在openssl和Java之间的名称存在轻微不匹配,但是openssl文档表示它们是相同的加密套件。

我的服务器首先支持并协商与openssl客户端兼容的加密套件,该套件与Android 5.0兼容。我希望Android 5.0能够连接而没有问题,但实际上它失败了。

是否有人成功地将Android 5.0安全websocket连接到Tomcat?是否有已知可用的加密套件?是否有一种方法可以调试Android客户端SSL实现?


更新

网络跟踪结果:

SYN -->
<-- SYN, ACK
ACK -->
<-- Data
ACK -->
<-- certificates, SSL/TLS params? 1
<-- 2
<-- 3
<-- 4
ACK --> 
ACK --> 
ACK --> 
FIN(!), ACK --> 

当Android 5.0设备(Nexus 5)接收到分为4-5个数据包的服务器证书信息时,它会响应一个可变数量(2-4个)的ACK,然后是FIN,ACK。在成功的跟踪中,客户端不会发送FIN。Android 5客户端似乎不喜欢从服务器获取的某些内容。
对于失败,服务器SSL调试信息显示:
http-nio-8080-exec-10, called closeOutbound()
http-nio-8080-exec-10, closeOutboundInternal()
http-nio-8080-exec-10, SEND TLSv1.2 ALERT:  warning, description = close_notify
http-nio-8080-exec-10, WRITE: TLSv1.2 Alert, length = 2
[Raw write]: length = 7
0000: 15 03 03 00 02 01 00 

更新2

这是一个基本的Tyrus Android应用程序,可供使用。

package edu.umd.mindlab.androidssldebug;

import android.support.v7.app.ActionBarActivity;
import android.os.Bundle;
import android.util.Log;
import android.view.Menu;
import android.view.MenuItem;
import android.widget.TextView;

import org.glassfish.tyrus.client.ClientManager;

import java.io.ByteArrayOutputStream;
import java.io.PrintStream;
import java.net.URI;

import javax.websocket.ClientEndpoint;
import javax.websocket.CloseReason;
import javax.websocket.OnClose;
import javax.websocket.OnError;
import javax.websocket.OnMessage;
import javax.websocket.OnOpen;
import javax.websocket.Session;

@ClientEndpoint
public class MainActivity extends ActionBarActivity {
    public static final String TAG = "edu.umd.mindlab.androidssldebug";
    final Object annotatedClientEndpoint = this;

    @Override
    protected void onCreate(Bundle savedInstanceState) {
        super.onCreate(savedInstanceState);
        setContentView(R.layout.activity_main);
    }

    @Override
    protected void onStart(){
        super.onStart();
        final Object annotatedClientEndpoint = this;
        new Thread(new Runnable(){
            @Override
            public void run() {
                try {
                    URI connectionURI = new URI("wss://mind7.cs.umd.edu:8080/test");
                    ClientManager client = ClientManager.createClient();
                    Object clientEndpoint = annotatedClientEndpoint;
                    client.connectToServer(clientEndpoint, connectionURI);
                }
                catch(Exception e){
                    ByteArrayOutputStream byteStream = new ByteArrayOutputStream();
                    PrintStream printStream = new PrintStream(byteStream);
                    e.printStackTrace(printStream);
                    final String message = byteStream.toString();
                    Log.e(TAG, message);
                    e.printStackTrace();
                    runOnUiThread(new Runnable() {
                        public void run() {
                            TextView outputTextView = (TextView) findViewById(R.id.outputTextView);
                            outputTextView.setText(message);
                        }
                    });
                }
            }
        }).start();

    }

    @Override
    public boolean onCreateOptionsMenu(Menu menu) {
        // Inflate the menu; this adds items to the action bar if it is present.
        getMenuInflater().inflate(R.menu.menu_main, menu);
        return true;
    }

    @Override
    public boolean onOptionsItemSelected(MenuItem item) {
        // Handle action bar item clicks here. The action bar will
        // automatically handle clicks on the Home/Up button, so long
        // as you specify a parent activity in AndroidManifest.xml.
        int id = item.getItemId();

        //noinspection SimplifiableIfStatement
        if (id == R.id.action_settings) {
            return true;
        }

        return super.onOptionsItemSelected(item);
    }

    @OnOpen
    public void onOpen(Session session) {
        Log.i(TAG, "opened");
        runOnUiThread(new Runnable() {
            public void run() {
                TextView outputTextView = (TextView) findViewById(R.id.outputTextView);
                outputTextView.setText("opened");
            }
        });

    }

    @OnMessage
    public void onMessage(String message, Session session) {
        Log.i(TAG, "message: " + message);
    }

    @OnClose
    public void onClose(Session session, CloseReason closeReason) {
        Log.i(TAG, "close: " + closeReason.toString() );
    }

    @OnError
    public void onError(Session session, Throwable t) {
        final String message = "error: " + t.toString();
        Log.e(TAG, message);
        runOnUiThread(new Runnable() {
            public void run() {
                TextView outputTextView = (TextView) findViewById(R.id.outputTextView);
                outputTextView.setText(message);
            }
        });
    }

}

请检查服务器日志以缩小问题范围。如果您没有找到任何错误信息,请捕获成功和失败连接的数据包并进行比较。如果您需要帮助解释数据包,请将它们发布到cloudshark.org。 - Steffen Ullrich
@mattm - "我有第二个服务器,上面安装了OpenSSL 1.0.1j" - 这真是有趣的事情... - jww
@mattm - 当你说“使用WebSocket”时,你是指第一次连接到网站是正常的(当获取页面时),然后随后使用该连接(通过WebSocket)会中断吗? - jww
@mattm - 我从问题中删除了Nginx的内容。它有点分散注意力,因为它对问题没有贡献。你可能想把你的PCAPs发布到某个地方,让其他人来查看。但我怀疑这是一个Android的bug,解决这个谜团的方法是获得一个使用Android修补过的OpenSSL源代码构建的s_client - jww
显示剩余6条评论
3个回答

3
error:1408E0F4:SSL routines:SSL3_GET_MESSAGE:unexpected message (external/openssl/ssl/s3_both.c:498 0xac526e61:0x00000000)
        at com.android.org.conscrypt.NativeCrypto.SSL_do_handshake_bio(Native Method)
        at com.android.org.conscrypt.OpenSSLEngineImpl.unwrap(OpenSSLEngineImpl.java:423)

0x1408E0F4是:

$ openssl errstr 0x1408E0F4
error:1408E0F4:SSL routines:SSL3_GET_MESSAGE:unexpected message

它在OpenSSL源代码的几个位置出现:

它在OpenSSL源代码的几个位置出现:

$ cd openssl-1.0.1l
$ grep -R SSL3_GET_MESSAGE *
ssl/s3_both.c:          SSLerr(SSL_F_SSL3_GET_MESSAGE,SSL_R_UNEXPECTED_MESSAGE);
ssl/s3_both.c:          SSLerr(SSL_F_SSL3_GET_MESSAGE,SSL_R_UNEXPECTED_MESSAGE);
ssl/s3_both.c:          SSLerr(SSL_F_SSL3_GET_MESSAGE,SSL_R_EXCESSIVE_MESSAGE_SIZE);
ssl/s3_both.c:          SSLerr(SSL_F_SSL3_GET_MESSAGE,SSL_R_EXCESSIVE_MESSAGE_SIZE);
ssl/s3_both.c:          SSLerr(SSL_F_SSL3_GET_MESSAGE,ERR_R_BUF_LIB);

我认为下面的这段代码(行号已更改,SSLerr 在第491行)可能会引起问题:

/* Obtain handshake message of message type 'mt' (any if mt == -1),
 * maximum acceptable body length 'max'.
 * The first four bytes (msg_type and length) are read in state 'st1',
 * the body is read in state 'stn'.
 */
long ssl3_get_message(SSL *s, int st1, int stn, int mt, long max, int *ok)
    {
    ...

    /* s->init_num == 4 */
    if ((mt >= 0) && (*p != mt))
        {
        al=SSL_AD_UNEXPECTED_MESSAGE;
        SSLerr(SSL_F_SSL3_GET_MESSAGE,SSL_R_UNEXPECTED_MESSAGE);
        goto f_err;
        }
    ...

但我不确定是什么原因导致了这个问题。请参阅OpenSSL用户列表上的此问题 SSL_F_SSL3_GET_MESSAGE 和 SSL_R_UNEXPECTED_MESSAGE

编辑:根据Android s3_both.c代码,那就是触发该问题的代码。

-----

好的客户端使用TLS 1.0,而行为异常的客户端使用TLS 1.2。但是我没有看到任何有冒犯性的东西会导致客户端在处理四个消息(服务器Hello,证书,服务器密钥交换,服务器Hello完成)中的记录时关闭连接。

-----

基于ServerKeyExchange消息:

enter image description here

服务器选择了客户端提供的secp521r1。您可能需要使用secp256。这是目前互操作的。另请参见RHEL/CentOS/RedHat OpenSSL中的有限椭圆曲线支持是否足够健壮?

-----

服务器使用的OpenSSL 1.0.1e FIPS存在一些问题。例如:

如果可能,您可能希望将其升级到更新版本。

-----

有没有办法调试Android客户端SSL实现?

我认为这是一个比较简单的问题。使用类似于SSLSocketFactoryEx的自定义SSLSocketFactory。它将允许您尝试不同的协议、密码套件和设置。但这需要反复试错。

否则,您需要获取Android 5.0使用的OpenSSL源代码(包括补丁)。我不知道如何获取并确保它能像主流的OpenSSL一样构建(实际上,您需要使用带有调试信息的Android源代码构建s_client)。
这可能会有所帮助:Android上的OpenSSL。从差异的外观来看,Android似乎正在使用OpenSSL 1.0.0。(patch/目录中的一些补丁特别指出1.0.0b版本)。

这个特定的跟踪是针对OpenSSL 1.0.1j的。192.168.0.109是服务器,192.168.0.100是客户端。在第14帧中,当客户端发送第一个FIN时,它不是关闭连接吗?我在服务器配置中设置了TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA密码套件,因为它是Android 4.4和Android 5支持的密码套件的交集。我的首要目标是在Android 5和服务器之间成功协商任何密码套件。我更喜欢基于SHA-256或SHA-384的密码套件,但我还没有找到任何成功协商任何密码套件的服务器配置。 - mattm
@mattm - "不是第14帧中客户端关闭了连接吗..." - 是的,我的错。我误读了哪一方发送了关闭请求。 - jww

1

0

建议的解决方法在TYRUS-402。我已经提交了一个相应的Grizzly bug GRIZZLY-1827,其中包含了相应的补丁。

更新:bug GRIZZLY-1827已经修复。


1
为了提高这个答案的质量,请总结您链接的建议修复。 - David

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接