Amazon Bedrock 全新发布

在 2023 年的亚马逊云科技 re:Invent 全球云计算大会上，最令人瞩目的一项更新莫过于 Amazon Bedrock 的全新升级。亚马逊云科技此次为其大模型托管服务引入了 Fine-tuning、Agents、Knowledge Bases 和 Guardrails 等一系列创新功能。这些功能的加入意味着客户现在能以更加高效、智能和安全的方式构建各种应用，标志着亚马逊云科技在推动业界进步和服务客户方面迈出了新的重要一步。

Amazon Bedrock 是一项完全托管的服务，可帮助你使用 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等 AI 领导者的基础模型构建生成式 AI 应用程序。Amazon Bedrock 现已于 2023 年 9 月 28 日正式推出。在最新的公告中，你现在可以通过 Amazon Bedrock API 访问 Llama 2 和 Meta 的大型语言模型，还可以使用 AWS CLI。AWS 于 2023 年 4 月在公开预览版中宣布推出 Amazon Bedrock，并在 AWS re:Inforce 2023 上通过演讲安全地构建生成式 AI 应用程序并使用 Amazon Bedrock 控制数据 （APS208）宣布推出 Amazon Bedrock 。

学习目标识别

• Amazon Bedrock 的功能探索
• Amazon Bedrock 的优势确定
• Amazon Bedrock 的常见用例
• Amazon Bedrock 的解决方案架构和定价
• Amazon Bedrock 的现实世界行业应用使用 AWS 管理控制台生成映像；

为什么选择 Amazon Bedrock？

• Amazon Bedrock 是无服务器的，这意味着你不需要管理任何 IT 基础设施
• 可以在不编写任何代码的情况下尝试基础模型。
• 可以使用自己的数据并通过微调或检索增强生成（RAG）自定义基础模型，并使用代理来执行复杂的业务任务。

Amazon Bedrock 有什么好处？

• 可以访问 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先 AI 公司的基础模型，使用 Playground 进行实验来构建生成式 AI 应用程序，并使用 Amazon Bedrock API 进行推理。
• 可以使用自己的数据集自定义基础模型，并将该数据集上传到 Amazon S3 以进行训练和测试。
• 可以构建代理来执行复杂的业务任务 HIPAA 资格和 GDPR 合规性 Amazon Bedrock 数据安全性可确保你的传输中和静态数据经过加密，允许使用访问密钥。亚马逊声明：
• 可以将 AWS PrivateLink 与 Amazon Bedrock 结合使用，在 FM 和 Amazon Virtual Private Cloud （Amazon VPC） 之间建立私有连接，而无需将流量暴露到 Internet。

Amazon Bedrock 有哪些特点？

下面是 Amazon Bedrock 的概述。

Amazon Bedrock 用户指南中概述了这些功能， 包括：文本游乐场 – AWS 管理控制台中的实用文本生成应用程序。图像游乐场– 控制台中的实用图像生成应用程序。

聊天游乐场– 使用控制台的实践对话生成应用程序。嵌入– 使用 API 从 Titan Embeddings G1 - 文本模型生成嵌入。示例库你可以从示例库中探索示例案例。

Amazon Bedrock 的定价是多少？

Amazon Bedrock 有两种定价模式：

• 按需定价：

  • 文本生成模型：你需要为处理的每个输入令牌和生成的每个输出令牌付费。
  • 嵌入模型：你需要为处理的每个输入令牌付费。令牌由几个字符组成，是指模型学习理解用户输入并提示生成结果的基本单位。
  • 图像生成：你为生成的图像数量付费。

• 预配置吞吐量定价：
  你需要根据购买的吞吐量支付时间承诺，以在模型上运行推理。Amazon 建议预配置吞吐量适合大型工作负载。通过 Amazon Bedrock 定价，你可以付费在任何第三方基础模型上运行推理。定价基于输入令牌和输出令牌的数量，以及你是否为模型购买了预配置吞吐量。预置吞吐量按小时收费，你可以灵活选择 1 个月或 6 个月的承诺期限。

  基础模型基础型号有多种基础模型供你选择，这些模型可能会发生变化。

  目前，可以访问以下模型：

  • AI21 Labs: Jurassic-2 Mid, Jurassic-2 Ultra
  • Amazon: Titan Text Lite, Titan Text Express, Titan Text Embeddings
  • Anthropic: Claude Instant, Claude
  • Cohere: Command, Command-Light, Embed - English, Embed - Multilingual
  • Meta Llama 2: Llama 2 Chat (13B), Llama 2 Chat (70B)
  • Stability AI: SDXL 0.8, SDXL 1.0

定制型号你还可以引入自己的数据集，通过超参数时期、批量大小、学习率、预热步骤来自定义模型，以微调模型。你可以使用训练数据构建基础模型，并使用 Amazon Bedrock API 部署微调模型。

有哪些常见用例？

• 文本生成，例如撰写论文和博客文章虚拟助理例如接受用户请求并执行任务
• 聊天机器人：用于提问和回答
• 搜索，例如从文档中搜索信息
• 文本摘要例如总结书籍或文档的主题
• 图像生成，例如为房产手册生成真实照片现实世界的行业应用有哪些？

图像生成教程

教程：开始使用带有 Image Playground 的 Amazon Bedrock

步骤 1：导航至 AWS 管理控制台。以 IAM 管理员用户身份登录 AWS 账户。

步骤 2：在本教程中，我们将使用 AWS 区域弗吉尼亚北部 （US-east-1）。

步骤 3：在搜索栏中输入“Bedrock”一词，导航到 Amazon Bedrock 控制台并单击“开始”。

第 4 步：请求模型访问权限。导航到基础模型的第三方提供商（例如 Stability AI）并选择编辑访问权限。选中该框以选择基础模型并请求访问。需要几分钟时间才能获得访问权限。刷新你的浏览器。

我从 Stability AI 中选择了 Stable Diffusion XL-Preview 的基础模型。

第 5 步：导航到“图像”以选择图像游乐场以开始提示。选择左侧窗格中的图像。

用自然语言输入一个词来给出提示。你可以在框中输入几个单词，例如悉尼歌剧院真实的夏天。创建图像需要几秒钟的时间。

在图像游乐场的右侧，你可以调整滑块来更新推理配置，从而更改生成图像的输出质量。

第 6 步：你还可以下载生成的图像并将其用于你的项目，例如博客文章、时事通讯、明信片、文档、杂志等。

第 7 步：清理资源作为最佳实践，如果你不再需要从基础模型生成图像，请通过单击 编辑 、取消选中“稳定性 AI”等框，然后选择“保存” ，删除第三方基础模型提供商的模型访问权限，从而清理你的资源变化。

总结

在撰写这篇学习笔记的过程中，我努力探索了 Amazon Bedrock 的诸多特性。我尝试理解了作为完全托管服务所带来的便利和无服务器架构的优势，并尽可能地深入了解如何利用来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 等领先公司的基础模型，并尝试了通过 Amazon Bedrock 进行图像生成、文本生成以及处理其他复杂业务任务的过程。

同时，我也学习了它的定价结构、支持的基础模型，并且尽我所能深入研究了如何利用 Amazon Bedrock API 进行部署和微调模型。

这篇笔记记录了我对 Amazon Bedrock 理解的旅程，希望也可以为我自己未来在技术探索和创新有所帮助，期待 Amazon Bedrock 的更多教程和更新，我会保持学习和记录。

本文参与了「构」向云端 | 亚马逊云科技 x 思否 2023 re:Invent 构建者征文大赛，欢迎正在阅读的你也加入。

授权声明：本篇文章授权活动官方亚马逊云科技文章转发、改写权，包括不限于在 Developer Centre，知乎，自媒体平台，第三方开发者媒体等亚马逊云科技官方渠道