要解决Android导航组件返回按钮不起作用的问题，你可以按照以下步骤进行操作：

1. 确保你的Activity继承自Navigation组件的NavController.OnDestinationChangedListener接口，并实现onDestinationChanged()方法。这将允许你监听导航组件的变化。

public class MainActivity extends AppCompatActivity implements NavController.OnDestinationChangedListener {

    private NavController navController;

    @Override
    protected void onCreate(Bundle savedInstanceState) {
        super.onCreate(savedInstanceState);
        setContentView(R.layout.activity_main);

        // 获取NavController对象
        navController = Navigation.findNavController(this, R.id.nav_host_fragment);

        // 设置监听器
        navController.addOnDestinationChangedListener(this);
    }

    @Override
    public void onDestinationChanged(@NonNull NavController controller, @NonNull NavDestination destination, @Nullable Bundle arguments) {
        // 在这里可以处理返回按钮的逻辑
        if (destination.getId() == R.id.homeFragment) {
            // 当前为主页Fragment，隐藏返回按钮
            getSupportActionBar().setDisplayHomeAsUpEnabled(false);
        } else {
            // 其他Fragment，显示返回按钮
            getSupportActionBar().setDisplayHomeAsUpEnabled(true);
        }
    }

    @Override
    public boolean onOptionsItemSelected(MenuItem item) {
        // 处理返回按钮点击事件
        if (item.getItemId() == android.R.id.home) {
            navController.navigateUp();
            return true;
        }
        return super.onOptionsItemSelected(item);
    }
}

2. 在AndroidManifest.xml文件中为你的Activity添加parentActivityName属性，以确保返回按钮能正确工作。

3. 在你的Fragment布局文件中添加一个Toolbar，并将其设置为ActionBar。

4. 在你的Fragment中，使用setSupportActionBar()方法将Toolbar设置为ActionBar，并在onCreateOptionsMenu()方法中启用返回按钮。

public class HomeFragment extends Fragment {

    private Toolbar toolbar;

    @Override
    public View onCreateView(LayoutInflater inflater, ViewGroup container, Bundle savedInstanceState) {
        View rootView = inflater.inflate(R.layout.fragment_home, container, false);

        // 获取Toolbar实例
        toolbar = rootView.findViewById(R.id.toolbar);

        // 设置Toolbar为ActionBar
        ((AppCompatActivity) getActivity()).setSupportActionBar(toolbar);

        return rootView;
    }

    @Override
    public void onCreateOptionsMenu(Menu menu, MenuInflater inflater) {
        super.onCreateOptionsMenu(menu, inflater);
        // 启用返回按钮
        ((AppCompatActivity) getActivity()).getSupportActionBar().setDisplayHomeAsUpEnabled(true);
    }
}

通过以上步骤，你应该能够解决Android导航组件返回按钮不起作用的问题。