要在 AWS EMR 上使用 CloudWatch Agent 进行并发步骤超过 1 的设置,你需要执行以下步骤:
#!/bin/bash
# 安装 CloudWatch Agent
sudo yum install -y amazon-cloudwatch-agent
# 创建 CloudWatch Agent 配置文件
sudo tee /etc/cloudwatch-agent.json > /dev/null <
使用 AWS CLI 或 AWS SDK 将步骤脚本上传到 S3 存储桶中。
创建一个步骤配置文件,该文件将引用步骤脚本并将其应用于 EMR 集群。以下是一个示例步骤配置文件:
[
{
"Name": "Setup CloudWatch Agent",
"ActionOnFailure": "CONTINUE",
"HadoopJarStep": {
"Jar": "s3://elasticmapreduce/libs/script-runner/script-runner.jar",
"Args": [
"s3://your-bucket-name/path/to/step-script.sh"
]
}
}
]
请确保将 your-bucket-name
替换为你的 S3 存储桶名称,并将 path/to/step-script.sh
替换为你在 S3 存储桶中上传的实际步骤脚本路径。
以下是使用 AWS CLI 创建 EMR 集群的示例命令:
aws emr create-cluster --name "MyEMRCluster" --release-label emr-6.5.0 --instance-type m5.xlarge --instance-count 3 --steps file://path/to/step-config.json --auto-terminate
请注意,path/to/step-config.json
应该替换为你的步骤配置文件的实际路径。
以上步骤将在 EMR 集群上创建一个步骤,该步骤将下载并安装 CloudWatch Agent,并配置它以收集指定的指标。然后,你可以在 CloudWatch 控制台上查看和监控这些指标。
希望这可以帮助到你!