AWSGlue无法连接到Snowflake。
创始人
2024-09-25 17:01:27
0

以下是一组步骤,可用于解决 AWS Glue 与 Snowflake 连接问题:

  1. 确保 AWS Glue IAM 角色有 Snowflake 权限。

在 IAM 控制台上,确保已在 AWS Glue 根据实际情况创建了一个 IAM 角色。至少应该有 AWSServiceRoleForAWSGlueService 和 Snowflake 粘合剂 Snowflake Connector 权限。您可以使用以下代码示例创建 IAM 角色。

aws iam create-role --role-name my-glue-snowflake-role --assume-role-policy-document file://trustpolicyforec2.json
aws iam attach-role-policy --policy-arn arn:aws:iam::aws:policy/service-role/AWSServiceRoleForAWSGlueService --role-name my-glue-snowflake-role
aws iam attach-role-policy --policy-arn arn:aws:iam::aws:policy/AmazonS3FullAccess --role-name my-glue-snowflake-role
aws iam attach-role-policy --policy-arn arn:aws:iam::aws:policy/AWSGlueConsoleFullAccess --role-name my-glue-snowflake-role
aws iam attach-role-policy --policy-arn arn:aws:iam::aws:policy/PowerUserAccess --role-name my-glue-snowflake-role

您还需要在 Snowflake 中创建具有必要权限的 Snowflake 用户。有关如何创建 Snowflake 用户的信息,请参见 Snowflake 文档。

  1. 创建 Glue Job 并启用 VPC。

创建 AWS Glue 作业时切换到启用 VPC。确保 VPC 中的所有 SG 都包含 Snowflake 部分的入站/出站规则。

  1. 使用 Glue DynamicFrameConnectors 手动连接到 Snowflake。

请使用以下代码示例手动连接到 Snowflake。

import boto3

from awsglue.dynamicframe import DynamicFrame
from awsglue.context import GlueContext
from pyspark.context import SparkContext
from pyspark.sql.functions import col
from awsglue.job import Job
from awsglue.transforms import *

sc = SparkContext()
glueContext = GlueContext(sc)
job = Job(glueContext)

snowflakeSource = glueContext.create_dynamic_frame.from_options(
    'snowflake',
    connection_options={
        'url': 'jdbc:snowflake://..snowflakecomputing.com/',
        'user': '',
        'password': '',
        'dbtable': '.

相关内容

热门资讯

关于!微信微乐自建房辅助工具,... 关于!微信微乐自建房辅助工具,微乐家乡麻将自建房辅助app(开挂自建房)方法1)微乐家乡麻将自建房辅...
大家学习交流!微信卡五星辅助器... 大家学习交流!微信卡五星辅助器,微乐小程序免费黑科技(开挂自建房)方法1、很好的工具软件,可以解锁游...
三分钟了解!微乐微信自建房辅助... 三分钟了解!微乐微信自建房辅助工具插件,微乐家乡麻将自建房辅助app(开挂自建房)工具1、三分钟了解...
一分钟教会你!微乐家乡麻将自建... 一分钟教会你!微乐家乡麻将自建房辅助app,微乐自建房脚本免费入口(开挂自建房)方法1、用户打开应用...
分享实测!微信微乐自建房辅助工... 分享实测!微信微乐自建房辅助工具,微乐自建房脚本免费入口(开挂自建房)器1、起透看视 微信微乐自建房...
重大通报!微乐自建房辅助工具脚... 重大通报!微乐自建房辅助工具脚本,微乐小程序免费黑科技(开挂自建房)app微乐自建房辅助工具脚本破解...
如何分辨真伪!微乐微信自建房辅... 如何分辨真伪!微乐微信自建房辅助工具插件,微乐小程序免费黑科技(开挂自建房)技巧1、微乐微信自建房辅...
我来教教你!微乐自建房辅助工具... 我来教教你!微乐自建房辅助工具挂,微乐家乡麻将自建房辅助app(开挂自建房)工具1、玩家可以在微乐家...
重大来袭!微乐自建房辅助工具神... 重大来袭!微乐自建房辅助工具神器,微乐小程序免费黑科技(开挂自建房)器1、游戏颠覆性的策略玩法,独创...
带你了解!微信卡五星辅助器,微... 带你了解!微信卡五星辅助器,微乐自建房脚本免费入口(开挂自建房)方法1、带你了解!微信卡五星辅助器,...