要保持内存数据库在JVM退出之前一直打开，可以使用Java的Shutdown Hook功能。Shutdown Hook是JVM在关闭之前执行的代码块，可以在其中执行清理操作。

下面是一个示例代码，使用H2内存数据库，并在JVM退出之前关闭数据库连接：

import org.h2.jdbcx.JdbcDataSource;

public class InMemoryDatabaseExample {
    public static void main(String[] args) {
        // 创建H2内存数据库连接
        JdbcDataSource dataSource = new JdbcDataSource();
        dataSource.setURL("jdbc:h2:mem:test;DB_CLOSE_DELAY=-1"); // 设置DB_CLOSE_DELAY=-1，表示在最后一个连接关闭之前不关闭数据库

        // 注册Shutdown Hook，在JVM退出之前关闭数据库连接
        Runtime.getRuntime().addShutdownHook(new Thread(() -> {
            try {
                dataSource.getConnection().close(); // 关闭数据库连接
            } catch (Exception e) {
                e.printStackTrace();
            }
        }));

        // 执行数据库操作
        // ...

        // 程序正常退出时，关闭数据库连接
        try {
            dataSource.getConnection().close(); // 关闭数据库连接
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

在上述代码中，我们创建了一个H2内存数据库连接，并设置了DB_CLOSE_DELAY=-1，表示在最后一个连接关闭之前不关闭数据库。然后，我们通过Runtime.getRuntime().addShutdownHook()方法注册了一个Shutdown Hook，在JVM退出之前执行关闭数据库连接的操作。

在程序正常退出时，我们也手动关闭了数据库连接，以确保数据库连接在程序运行期间一直保持打开状态。

请注意，使用Shutdown Hook需要谨慎，在处理时间敏感的应用程序时可能会引起一些问题。