要实现安卓Youtube WebView全屏时按返回键退出应用的功能，可以按照以下步骤进行：

1. 在你的Activity中，定义一个全局的boolean变量，用于判断WebView是否处于全屏状态。

private boolean isWebViewFullscreen = false;

2. 在你的Activity中，重写onBackPressed()方法，用于处理返回键事件。

@Override
public void onBackPressed() {
    if (isWebViewFullscreen) {
        // 如果WebView处于全屏状态，则退出全屏
        WebChromeClient.CustomViewCallback customViewCallback = mWebView.getCustomViewCallback();
        if (customViewCallback != null) {
            customViewCallback.onCustomViewHidden();
        }
        mWebView.setFullscreen(false);
        isWebViewFullscreen = false;
    } else {
        // 如果WebView不处于全屏状态，则正常处理返回键事件
        super.onBackPressed();
    }
}

3. 在你的WebViewClient中，重写onShowCustomView()和onHideCustomView()方法，用于处理WebView的全屏状态变化。

@Override
public void onShowCustomView(View view, CustomViewCallback callback) {
    // 进入全屏状态时，设置isWebViewFullscreen为true
    isWebViewFullscreen = true;
    super.onShowCustomView(view, callback);
}

@Override
public void onHideCustomView() {
    // 退出全屏状态时，设置isWebViewFullscreen为false
    isWebViewFullscreen = false;
    super.onHideCustomView();
}

4. 在你的WebView中，定义一个setFullscreen()方法，用于设置WebView的全屏状态。

public void setFullscreen(boolean fullscreen) {
    WindowManager.LayoutParams attrs = getWindow().getAttributes();
    if (fullscreen) {
        attrs.flags |= WindowManager.LayoutParams.FLAG_FULLSCREEN;
        getWindow().setAttributes(attrs);
        getWindow().addFlags(WindowManager.LayoutParams.FLAG_LAYOUT_NO_LIMITS);
    } else {
        attrs.flags &= ~WindowManager.LayoutParams.FLAG_FULLSCREEN;
        getWindow().setAttributes(attrs);
        getWindow().clearFlags(WindowManager.LayoutParams.FLAG_LAYOUT_NO_LIMITS);
    }
}

这样，当WebView处于全屏状态时，按返回键会退出全屏并返回上一个页面；当WebView不处于全屏状态时，按返回键会正常退出应用。