AWSSagemaker是否支持gRPC的预测请求?
创始人
2024-09-27 02:00:16
0

是的,AWS Sagemaker支持gRPC的预测请求。您可以使用AWS Sagemaker SDK for Python来创建gRPC请求。以下是一个使用gRPC进行预测的示例代码:

import boto3
import numpy as np
import sagemaker as sage
from sagemaker.tensorflow.serving import Model

runtime = boto3.Session().client("sagemaker-runtime")

model = Model(
    model_data="s3://bucket-name/path/to/model.tar.gz",
    role="arn:aws:iam::123456789012:role/ExecutionRole-XXX",
    framework_version="2.1.0",
)

predictor = model.deploy(initial_instance_count=1, instance_type="ml.m4.xlarge", endpoint_name="grpc-endpoint")

request_data = np.array([1.0, 2.0, 3.0])
response = runtime.invoke_endpoint(
    EndpointName="grpc-endpoint",
    ContentType="application/grpc",
    Body=request_data.tobytes(),
)

print(response)

相关内容

热门资讯

为切实保障!蜀山四川辅助脚本视... 为切实保障!蜀山四川辅助脚本视频教学(辅助)竟然是有辅助挂(有挂规律)-哔哩哔哩进入游戏-大厅左侧-...
现有关情况通报如下!xpoke... 现有关情况通报如下!xpoker辅助控制,途游大作战辅助,学习辅助攻略(有挂解惑)-哔哩哔哩1、途游...
昨日!新星游挂多少钱(辅助)总... 昨日!新星游挂多少钱(辅助)总是是真的辅助神器(有挂分享)-哔哩哔哩1)新星游挂多少钱辅助插件:进一...
透视挂透视!pokemmo辅助... 透视挂透视!pokemmo辅助官网,蜀山四川小程序作必弊视频,操作辅助脚本(有挂方法)-哔哩哔哩在进...
受玩家影响!悟空大厅怎么挂辅助... 受玩家影响!悟空大厅怎么挂辅助(辅助)其实是有辅助挂(的确有挂)-哔哩哔哩1、悟空大厅怎么挂辅助免费...
这一问题亟待解决!花舍辅助(辅... 这一问题亟待解决!花舍辅助(辅助)真是真的有辅助app(真的有挂)-哔哩哔哩1、完成花舍辅助有辅助插...
透视神器!竞技联盟辅助插件,忆... 透视神器!竞技联盟辅助插件,忆游十三道辅助,学习辅助教程(有挂解密)-哔哩哔哩运竞技联盟辅助插件辅助...
据权威媒体报道!抚州辅助器中至... 据权威媒体报道!抚州辅助器中至小程序(辅助)其实真的有辅助器(有挂攻略)-哔哩哔哩1、上手简单,内置...
据了解!德州局脚本,yy比鸡脚... 据了解!德州局脚本,yy比鸡脚本,烘培辅助器(有挂技巧)-哔哩哔哩1、玩家可以在德州局脚本透视最简单...
突发!杭州都莱大菠萝有挂吗(辅... 突发!杭州都莱大菠萝有挂吗(辅助)竟然有挂辅助软件(有挂透明挂)-哔哩哔哩1、杭州都莱大菠萝有挂吗辅...