当ASP.NET Core自定义模型绑定失败时，可以通过以下方法来提供错误提示：

1. 使用ModelState.AddModelError方法添加错误信息到ModelState中。在自定义模型绑定器内部，可以使用以下代码示例来添加错误信息：

public class CustomModelBinder : IModelBinder
{
    public Task BindModelAsync(ModelBindingContext bindingContext)
    {
        // 获取模型绑定值
        var valueProviderResult = bindingContext.ValueProvider.GetValue(bindingContext.ModelName);
        // 模型绑定失败时，添加错误信息到ModelState
        if (valueProviderResult == ValueProviderResult.None)
        {
            bindingContext.ModelState.AddModelError(bindingContext.ModelName, "自定义模型绑定失败");
            return Task.CompletedTask;
        }

        // 执行模型绑定逻辑

        return Task.CompletedTask;
    }
}

2. 使用ModelState.AddModelError方法添加错误信息到ModelState中，并使用中间件来处理错误。在自定义模型绑定器内部，可以使用以下代码示例来添加错误信息：

public class CustomModelBinder : IModelBinder
{
    public Task BindModelAsync(ModelBindingContext bindingContext)
    {
        // 获取模型绑定值
        var valueProviderResult = bindingContext.ValueProvider.GetValue(bindingContext.ModelName);
        // 模型绑定失败时，添加错误信息到ModelState
        if (valueProviderResult == ValueProviderResult.None)
        {
            bindingContext.ModelState.AddModelError(bindingContext.ModelName, "自定义模型绑定失败");
            return Task.CompletedTask;
        }

        // 执行模型绑定逻辑

        return Task.CompletedTask;
    }
}

public class CustomModelBindingMiddleware
{
    private readonly RequestDelegate _next;

    public CustomModelBindingMiddleware(RequestDelegate next)
    {
        _next = next;
    }

    public async Task Invoke(HttpContext context)
    {
        // 执行模型绑定
        var model = new YourModel();
        if (!await TryUpdateModelAsync(model))
        {
            // 模型绑定失败，处理错误
            context.Response.StatusCode = 400;
            await context.Response.WriteAsync("自定义模型绑定失败");
            return;
        }

        // 模型绑定成功，继续处理请求
        await _next(context);
    }

    private async Task TryUpdateModelAsync(YourModel model)
    {
        // 使用自定义模型绑定器绑定模型
        var bindingContext = new DefaultModelBindingContext
        {
            ModelMetadata = ModelMetadataProviders.Current.GetMetadataForType(() => model, typeof(YourModel)),
            ModelName = nameof(YourModel),
            ModelState = context.ModelState,
            ValueProvider = context.ValueProvider
        };

        var binder = new CustomModelBinder();
        await binder.BindModelAsync(bindingContext);

        if (!bindingContext.Result.IsModelSet)
        {
            return false;
        }

        return true;
    }
}

3. 使用自定义的ModelBinderAttribute来指定自定义模型绑定器，并在自定义模型绑定器内部添加错误信息到ModelState。在自定义模型绑定器内部，可以使用以下代码示例来添加错误信息：

[ModelBinder(BinderType = typeof(CustomModelBinder))]
public class YourModel
{
    // 模型属性
}

public class CustomModelBinder : IModelBinder
{
    public Task BindModelAsync(ModelBindingContext bindingContext)
    {
        // 获取模型绑定值
        var valueProviderResult = bindingContext.ValueProvider.GetValue(bindingContext.ModelName);
        // 模型绑定失败时，添加错误信息到ModelState
        if (valueProviderResult == ValueProviderResult.None)
        {
            bindingContext.ModelState.AddModelError(bindingContext.ModelName, "自定义模型绑定失败");
            return Task.CompletedTask;
        }

        // 执行模型绑定逻辑

        return Task.CompletedTask;
    }
}

以上是几种在ASP.NET Core中处理自定义模型绑定失败时的错误提示的解决方法，根据具体情况选择合适的方法来实现错误提示。