ChatGPT桌面应用配置Amazon Bedrock
Configure the ChatGPT desktop app with Amazon Bedrock in AWS GovCloud (US)
ChatGPT桌面应用现已可在AWS GovCloud (US)的Amazon Bedrock上使用,通过两个组件提供对OpenAI前沿模型的访问,适用于需要模型推理使用AWS GovCloud (US)身份、端点和区域控制架构的组织
ChatGPT桌面应用现已可在AWS GovCloud (US)的Amazon Bedrock上使用,通过两个组件提供对OpenAI前沿模型的访问。 Work用于完成复杂的多步骤任务并交付可审阅的结果,Codex是一个用于开发、测试和审查软件的编码代理。 此演练适用于需要模型推理使用AWS GovCloud (US)身份、端点和区域控制架构的组织。
它配置Codex通过us-gov-west-1中的Amazon Bedrock Mantle路由模型请求,其中可以使用AWS身份和访问管理(IAM)和现有的AWS GovCloud (US)网络控制进行访问管理。 Codex是用于AI驱动软件开发的OpenAI编码代理。 使用GPT模型进行推理,Codex引入了一种针对复杂、长期开发者工作流程优化的新智能类别。 您可以使用ChatGPT桌面应用、Codex CLI以及与Visual Studio Code、JetBrains和Xcode的IDE集成。
模型推理通过Amazon Bedrock上的Responses API路由。 对于有数据驻留要求的患者,处理保持在您选择的Amazon Bedrock AWS区域内。 您按令牌付费,没有座位许可证,也没有每开发者承诺。 还支持零数据保留(ZDR)。 在这种可配置模式下,提示和响应由AWS进行处理,而不会写入持久存储或与模型提供者共享。 这有助于您保护敏感信息并满足严格的数据治理、隐私和安全要求。
本文介绍了将ChatGPT桌面应用的模型推理发送到AWS GovCloud (US-West)的Amazon Bedrock的受控本地部署。 配置使用API模式登录、管理设备策略、命名AWS配置文件和网络限制。 这些限制仅允许访问批准的Amazon Bedrock端点,同时禁用其他外部连接和网络启用功能。 结果是一个机构安全团队可以在批准更广泛使用之前进行测试和记录的部署。 使用AWS GovCloud (US)并遵循此指南本身不会授权您的工作负载。
您的组织仍然负责根据其系统安全计划和授权流程审查所选模型、AWS服务、区域、端点、工作站控制、存储库、凭证和数据流。 解决方案概述您可以使用ChatGPT桌面应用两种方式:用于需要规划、研究、文件和最终结果的较大任务。 Codex用于技术工作,如编辑代码、运行测试和审查拉取请求。 ChatGPT桌面应用通过桌面应用或CLI在组织管理的计算机上运行。 它使用配置的AWS凭证将请求安全地发送到us-gov-west-1中的Amazon Bedrock Mantle端点。
由于此设置直接使用AWS,因此ChatGPT工作区规则和用户角色不控制它。 主要安全控制是计算机的策略和正在使用的AWS身份和权限。 演练配置有三个主要步骤:设置身份验证、设置ChatGPT桌面应用配置文件,然后启动、初始化并验证部署。 先决条件在将ChatGPT桌面应用与AWS GovCloud (US)一起设置之前,请确保您的ChatGPT桌面应用版本支持AWS GovCloud (US)中的Amazon Bedrock。
您需要一个批准的AWS GovCloud (US)帐户、IAM身份和批准的凭证、对批准的模型、AWS区域和端点的访问权限以及使用它们的权限。 您还需要设置requirements.toml和config.toml文件。 步骤1:设置身份验证选择批准的AWS GovCloud (US)帐户和具有对us-gov-west-1中批准模型的访问权限的IAM身份或角色。 通过您组织批准的机制获取凭证。 此演练使用命名配置文件codex-il5。 保管凭证、持有者




来源:AWS Machine Learning Blog · aws.amazon.com