要在AWS API Gateway上使用S3的自定义域名配置进行mTLS配置，您需要执行以下步骤：

1. 配置S3存储桶为私有存储桶，并启用静态网站托管。

2. 创建一个AWS Certificate Manager证书，该证书将用于mTLS连接。您可以在AWS Certificate Manager控制台上创建证书。

3. 在API Gateway控制台上创建API，并设置为使用AWS服务代理集成。

4. 在API Gateway中创建自定义域名并将证书与域名关联。您可以在API Gateway控制台的“自定义域名”部分找到此选项。

5. 在API Gateway的资源和方法上设置必要的授权和请求转换。

6. 在API Gateway的资源和方法上启用mTLS，并将SSL客户端证书链与API Gateway关联。您可以使用以下代码示例在API Gateway上创建mTLS配置：

import boto3

def create_mtls_configuration(api_id, stage_name, certificate_arn):
    client = boto3.client('apigateway')

    response = client.get_rest_apis()
    rest_api_id = None
    for item in response['items']:
        if item['name'] == api_id:
            rest_api_id = item['id']
            break

    response = client.create_domain_name(
        domainName=stage_name + '.' + api_id,
        certificateArn=certificate_arn,
        endpointConfiguration={
            'types': ['REGIONAL']
        }
    )
    domain_name = response['domainName']
    distribution_domain_name = response['distributionDomainName']

    response = client.create_base_path_mapping(
        restApiId=rest_api_id,
        domainName=distribution_domain_name,
        basePath='',
        stage=stage_name
    )

    response = client.create_deployment(
        restApiId=rest_api_id,
        stageName=stage_name
    )

    response = client.create_stage(
        restApiId=rest_api_id,
        stageName=stage_name,
        deploymentId=response['id']
    )

    response = client.update_stage(
        restApiId=rest_api_id,
        stageName=stage_name,
        patchOperations=[
            {
                'op': 'add',
                'path': '/clientCertificateId',
                'value': certificate_arn
            },
            {
                'op': 'add',
                'path': '/accessLogSettings/destinationArn',
                'value': 'arn:aws:logs:{region}:{account_id}:log-group:/aws/api-gateway/{api_id}'
            },
            {
                'op': 'add',
                'path': '/accessLogSettings/format',
                'value': '$context.requestId'
            }
        ]
    )

    return domain_name, distribution_domain_name

# Replace with your API ID, stage name, and certificate ARN
api_id = 'your-api-id'
stage_name = 'your-stage-name'
certificate_arn = 'your-certificate-arn'

domain_name, distribution_domain_name = create_mtls_configuration(api_id, stage_name, certificate_arn)
print('Domain Name:', domain_name)
print('Distribution Domain Name:', distribution_domain_name)

请确保已安装AWS SDK for Python (Boto3)并配置您的AWS凭证。您还可以根据自己的需求进行修改和调整。

这样，您就可以使用S3的自定义域名配置，并在API Gateway上实现mTLS配置。