解决Android.app.AlertDialog自定义主题无效的问题，可以尝试以下方法：

1. 确保正确设置AlertDialog的主题样式。在AlertDialog构造函数中，可以传入第二个参数来指定主题样式。比如：

AlertDialog.Builder builder = new AlertDialog.Builder(context, R.style.CustomAlertDialogStyle);

2. 在res/values/styles.xml中定义自定义的AlertDialog主题样式。例如：

其中，@drawable/custom_dialog_background和@color/custom_dialog_text_color是自定义的背景和文本颜色资源。

3. 确保在AndroidManifest.xml文件中，给相关的Activity设置了AppCompat的主题。例如：

其中，@style/AppTheme是AppCompat的主题样式。

4. 如果以上方法无效，可以尝试在AlertDialog显示之前，调用AlertDialog的getWindow()方法，然后再设置Window的属性。例如：

AlertDialog alertDialog = builder.create();
alertDialog.getWindow().setBackgroundDrawableResource(R.drawable.custom_dialog_background);

这样可以直接设置AlertDialog的Window属性，包括背景等。

通过以上方法，你可以解决Android.app.AlertDialog自定义主题无效的问题。