基于AWSChalice实现机器学习模型的Web服务部署与决策服务

### 基于AWS Chalice实现机器学习模型的Web服务部署与决策服务 #### 1. 引言 在当今数字化时代，将机器学习模型部署到互联网上并为用户提供决策服务是许多企业的重要需求。借助AWS的相关技术，我们可以轻松实现这一目标，而无需担心搭建复杂的Web服务器。本文将详细介绍如何使用Chalice库在AWS上部署机器学习模型，并通过案例展示其在实际业务中的应用。 #### 2. 安装Chalice Chalice是亚马逊开源的软件，可自动创建和部署Lambda函数，并为你配置API网关端点。以下是安装Chalice的具体步骤： 1. 打开计算机上的一个空文件夹。你可以右键单击该文件夹，选择“Open with Code”，或者在VS Code中以相同方式打开该文件夹。 2. 打开VS Code后，进入终端窗口（就像配置AWS CLI时那样），输入以下命令来安装Chalice： ```bash pip install chalice ``` 3. 如果上述命令因权限问题产生错误，你可能需要输入以下命令： ```bash pip install --user chalice ``` 安装完成后，Chalice会在你的系统上创建一个CLI应用程序，你就可以开始使用它了。Chalice主要有两个命令： - `new-project` - `deploy` #### 3. 创建Web端点 接下来，我们将创建一个名为`tweet_escalator`的新项目，并部署一个Hello World应用程序。具体步骤如下： 1. 在终端中运行以下命令创建新项目： ```bash chalice new-project tweet_escalator ``` 运行该命令后，你会在打开VS Code的文件夹中看到一个名为`tweet_escalator`的文件夹，其中包含Chalice自动创建的一些文件。 2. 进入`tweet_escalator`文件夹： ```bash cd tweet_escalator ``` 3. 在`tweet_escalator`文件夹中，运行以下命令部署Hello World应用程序： ```bash chalice deploy ``` Chalice会自动在AWS上创建Lambda函数，设置运行应用程序的权限（即IAM角色），并使用AWS网关配置Rest端点。其具体过程如下： - 创建部署包 - 创建IAM角色（tweet_escalator-dev） - 创建Lambda函数（tweet_escalator-dev） - 创建Rest API 部署完成后，你可以点击终端中显示的Rest API URL，在浏览器中打开该链接，会看到JSON格式的`{"hello":"world"}`。 #### 4. 创建Hello World API Chalice在创建`tweet_escalator`项目时会自动生成一些文件，其中有三个重要组件： - `.chalice`文件夹：包含配置文件，你需要修改的是`policy-dev.json`文件，该文件设置了允许Lambda函数调用SageMaker端点的权限。 - `app.py`文件：包含访问端点时运行的代码（例如在浏览器中查看时）。 - `requirements.txt`文件：列出应用程序运行所需的任何Python库。 以下是Chalice自动创建的`app.py`文件的代码： ```python from chalice import Chalice app = Chalice(app_name='tweet_escalator') @app.route('/') def index(): return {'hello': 'world'} ``` 在这段代码中，应用程序的名称（第2行）用于在AWS上标识Lambda函数和API网关；路由（第3行）标识运行函数的URL位置；函数（第4行）是访问该URL位置时运行的代码。 #### 5. 添加服务SageMaker端点的代码 我们可以基于之前创建的Hello World代码，添加服务SageMaker端点的代码。在Hello World代码的底部添加两行空白行，然后输入以下代码： ```python @app.route('/tweet/{tweet}') def return_tweet(tweet): tokenized_tweet = [ slugify(tweet, separator=' ')] payload = json.dumps( {"instances" : tokenized_tweet}) endpoint_name = 'customer-support-slugify' runtime = boto3.Session().client( service_name='sagemaker-runtime', region_name='us-east-1') response = runtime.i ```