亚马逊云科技生成式AIGC解决方案
首页
AIGC典型行业应用场景。
AIGC 技术生态与典型客户需求AIGC 技术生态加速形成与发展，目前整个AIGC 应用的技术生态大致可以分为三层：分别为基础设施、基础模型和应用程序。
-
- 将AIGC基础模型集成到面向用户的产品中的应用程序，运行自己的模型管道 (“端到端应用程序”)或依赖第三方 API，比如炙手可热的人工智能文本生成领域独角兽Jasper.ai,提供营销文案生成的 SaaS 服务如广告文案、博客、外发邮件等，人工智能绘画软件Midjourney等;
- 为 AIGC应用提供支持的基础模型，可以通过闭源专有API(如GPT-3)或开源模型(如Stable Diffusion)，或者提供开源模型托管平台(如HuggingFace);
- 为AIGC基础模型运行训练和推理工作负载的基础设施供应商(即云平台和硬件制造商)，如亚马逊云科技，英伟达等;
AIGC应用构建者和使用者的主要需求作为云服务提供商，亚马逊云科技专注于为基础模型开发者和使用者提供全面、可靠、安全的工具与服务，助力AIGC应用开发加速与成本优化。基于此，
我们将基础模型生态的主要参与者分为三类:基础模型提供商(Model Provider)，使用基础模型调优提供服务的厂商(Model Tuner)和直接使用基础模型厂商(Model Consumer)，我们总结的每一类用户的需求和面临的主要挑战如下：
基础模型产业化所面临的主要技术挑战数据质量参差不齐
调用成本高
训练难度高
亚马逊云科技 AIGC 技术能力概览
产品亮点I面向模型提供商提供适用于每种工作负载的高性能、经济高效、可扩展基础设施，尤其是两款基于自研 AI 训练(Trainium)与推理(Inferentia)芯片专门针对AIGC
应用优化的高性价比 EC2 实例 Trn1 和Inf2，帮助企业大幅节省AIGC 训练和推理的成本。
产品亮点II面向基础模型提供商以及使用基础模型调优提供服务的厂商，提供全托管的一站式机器学习开发平台 AmazonSageMaker，助力用户高效实现AIGC 基础模型的训练，推理，自定义、微调，部署和管理。
面向机器学习工程化：Amazon SageMaker
无需自行构建、端到端机器学习平台，最大限度节省AIGC模型开发和应用成本，提升整体生产效率。
Amazon SageMaker提供了包括Studio，Notebook等一系列调试、分析以及追踪模型效果的工具，可以帮助算法人员尽快完成模型调整，此外AmazonSageMaker提供包含数据标注、模型训练、微调、部署的标准化、自动化的端到端流程和管理工具，轻松实践机器学习运维MLOps 和大规模集群协调；
对TensorFlow、PyTorch 和HuggingFace等框架和库进行了针对亚马逊云科技的优化，提供了显著的性能改善；
Amazon SageMaker自带分布式训练库，支持数据并行以及模型并行(管道并行和张量并行)等模式，使得基础模型的分布式训练更加容易上手。除了AmazonSageMaker自带的分布式训练库外，还支持DeepSpeed 以及 FSDP 等开源分布式训练框架，适配不同的客户需求；
超大规模基础模型训练成本节省:借助Amazon SageMaker，您可以使用托管式Spot 竞价实例轻松训练机器学习模型，与按需实例相比，使用托管的Spot实例训练模型，可以将成本优化高达90%。
相较利用Amazon EC2或Amazon EKS，利用Amazon SageMaker进行模型部署和推理，可以省去对于计算实例、网络以及存储等基础设置的运营支出，减少运营成本；
Amazon SageMaker可以轻松将大语言模型进行模型并行化处理，并将模型切片放入单个GPU卡内存中，从而实现单机多卡模式下的推理，达到低至几百毫秒的推理延迟以及大规模的吞吐量；
Amazon SageMaker中的大型模型推理容器(LMI)与DeepSpeed、HFAccelerate等开源模型并行框架集成，此外还配备了BF16量化能力，有助于在不显著影响准确性的情况下缩小模型的大小，从而实现低延迟。
低代码构建机器学习模型：SageMaker JumpStart内置包含AIGC场景在内的主流开源模型和算法库。
1、“一键式”部署和Fine-tune Stable Diffusion,Bloom、FLAN-T5、Alexa TM等主流的 AIGC 基础模型；
2、内置 300+ 种开源模型，10+种预设场景解决方案；
3、提供支持TensorFlow、PyTorch、Hugging Face 和 MXNet等主流框架的先进SOTA)的开源模型；
4、用户可以通过JumpStart一键部署或微调众多预训练模型，轻松开发高质量模型并缩短部署时件;
5、支持通过应用场景、行业场景、模型名称以及资源类型进行搜索;
6、持续增加模型和场景。
目前在SageMaker JumpStart上可用的预训练基础模型
SageMaker JumpStart支持模型部署、训练(微调)。
产品亮点III面向使用基础模型调优服务厂商和直接使用基础模型的厂商，提供Amazon Bedrock服务和Amazon Titan大语言模型，助力构建低门槛，开放，安全的AIGC应用
针对使用基础模型调优服务厂商和直接使用基础模型厂商的主要需求:首先，他们需要能直接找到并访问高性能基础模型,这些模型需要能够给出最匹配业务场景的优秀反馈结果。其次，客户希望无缝与应用程序集成，且无需管理大量基础设施集群，也不会增加过高的成本。最后，目前基础模型定位是通用场景公用的能力，缺乏使用客户私有数据构建的差异化应用程序。客户希望能够轻松基于基础模型，利用自己的数据(可多可少)构建差异化的应用程序。由于客户进行定制化的数据是非常有价值的IP，因此需要在处理过程中确保数据安全和隐私保护。同时，客户还希望能控制数据共享和使用。基于客户以上的需求，我们推出了Amazon BedRockoAmazon Bedrock是客户使用基础模型构建和扩展生成式人工智能应用程序的最简单方法，为所有开发者降低使用门槛。凭借 Bedrock 所带来的无服务器体验，客户可以轻松找到适合自身业务的模型，快速上手，在确保数据安全和隐私保护的前提下，使用自有数据基于基础模型进行定制，并使用他们已经熟悉的亚马逊云科技工具和能力，将定制化模型集成并部署到他们的应用程序中，同时无需管理任何基础设施。
Amazon Bedrock 的主要优势Stability.ai的 Stable Diffusion 模型，Jurassic-2,Claude 模型为大语言模型，Stable Diffusion 模型为文本生成图片模型。任何规模的企业都可以通过Amazon Bedrock 访问基础模型，加速机器学习在组织内部的应用，并凭借其轻松上手的特性，构建自己
的生成式 AI 应用程序。我们相信，Amazon Bedrock将是基础模型普惠化进程中的一大进步。
品的相关描述，Amazon Bedrock 将能自动为这些新品生成有效的社交媒体推文内容、展示广告和产品网页。任何客户数据不会被用于底层模型的训练，所有数据
都将被加密，且不会离开客户的虚拟私有网络(VPC),可以确保全方位的数据安全和隐私保护。
- 通过 API 加速开发使用基础模型的生成式人工智能应用，而
不需要管理基础设施 - 从AI21 Labs、iAnthropic、Stability AI 以及亚马逊云科技自研
大语言模型中进行选择，找到合适客户案例的基础模型 - 使用客户的私有数据定制基础模型
- 利用全面的亚马逊云科技安全功能加强对客户的数据保护
- 使用客户熟悉的亚马逊云科技工具和功能来部署可扩展、可
靠且安全的生成式人工智能应用
产品亮点 IV面向直接使用基础模型的代码编写者提供AI代码助手Amazon CodeWhisperer,面向所有个人用户免费开放，不设任何资质或使用时长的限制，助力更快捷、更安
全地构建应用程序
我们预见到，编程将是生成式AI技术得到快速应用的领域之一。今天，软件开发者需要花费大量时间编写相当浅显和无差别的代码。他们还需要花费不少时间学习复杂的新工具和技术，而这些工具和技术总在不断演进。因此，开发者真正用于开发创新的功能与服务的时间少之又少。为应对这一难题，开发者会尝试从网上复制代码片段再进行修改，但可能无意中就复制了无效代码，有安全隐患的代码，或对开源代码的使用没有进行有效的追溯。而且这种搜索和复制的方式也浪费了开发者用于业务构建的时间。AIGC 可以通过“编写”大部分无差别的代码来大大减少这种繁重的工作，让开发人员能够更快地编写代码，同时让他们有时间专注在更具创造性的编程工作上。因此，我们推出了Amazon CodeWhisperer，一款AI 编程助手，通过内嵌的基础模型，可以根据开发者用自然语言描述的注释和集成开发环境(IDE)中的既有代码实时生成代码建议，从而提升开发者的生产效率。
发者在亚马逊云科技上构建更加创新和颠覆性的生成式人工智能应用。我们的使命是，让各种技能水平的开发人员和各种规模的组织都有机会使用生成式AI进行创新。我们相信，新一波机器学习技术创新才刚刚开始、方兴未艾，未来还有无限可能。
扫描代码以发现隐蔽漏洞
标记与开源训练数据相似的代或默认为过滤器
亚马逊云科技 AIGC 参考解决方案介绍基于 Amazon SageMaker Notebook 快速搭建托管的Stable Diffusion-AI作画可视化环境WebUI。
2、底层使用Amazon SageMaker Notebook Instance托管Jupyter笔记本实例，您无需关心基础环境(如存储、网络等)的构建及底层基础设施运维。
3、方案采用全托管的Stable DiffusionAI模型服务(1.5 轻量版本，包含Stable Diffusion WebUI 与InvokeAI 两个界面)，具备良好的开源项目使用体验，并支持根据您的需要安装插件以扩展使用场景(如ControlNet)。
4、用户可使用自带的图片数据微调模型，产出的模型可基于自动化流水线工具快速部署上线至推理节点，方便规模化的图片推理调用。
5、本方案完全开源，用户可以在Amazon SageMaker Notebook中对模型和
扩展(extension)定制开发，满足自身业务需求。
基于Amazon SageMaker构建的AIGC解决方案-Industry Al2、支持定制化开发，自主选择模型(Stable Diffusion,StyleGAN2等)，支SD1.X/SD2.X模型和模型切换
3、全托管，自动弹性伸缩，前端采用Amazon ECS部署，训练和推理采用Amazon
SageMaker全托管机器学习平台
4、支持Embedding,Hypernetwork,Dreambooth,ControlNet 多种方式来训练对象或风格
5、支持多用户管理，方便配置后端推理和训练资源
6、效率高，无需编写代码，即可体验文本生成图像模型，使用mLg4dn.xlarge机型，在3秒内可生成1张效果图(512x512),图片数量及分辨率均可设置
7、适合对AIGC有不同群体需求的企业客户，包括算法工程师、应用开发者，画师/运营人员等
亚马逊云科技Stable Diffusion Extensionl型训练，推理和调优等任务负载从本地服务器迁移至Amazon SageMaker，利用
云上弹性资源加速模型迭代，避免单机部署所带来的性能瓶颈。
1、安装便捷。本解决方案使用Amazon CloudFormation一键部署亚马逊云科技
中间件，搭配社区原生Stable Diffusion WebUI 插件安装形式一键安装，即可赋
能用户快速使用Amazon SageMaker云上资源，进行推理和训练工作
2、社区原生。|WebUl 界面与后端分离，用户无需改变现有Stable Diffusion
WebUI 的使用习惯，|WebUI 可以在任何支持的终端启动而没有GPU 的限制，原
有训练，推理等任务通过插件所提供的功能迁移到Amazon SageMaker
3、可扩展性强。方案插件以及中间件代码开源，采取非侵入式设计，有助于用
户快速跟上社区相关功能的迭代，从WebUI本体到广受欢迎的Dreambooth、ControlNet、LoRa等插件
4、优化资源配置。用户可按需选择云上资源，进行批量推理及模型训练，极大提
升效率
5、协作性强。依托于开源社区强大资源，通过插件形式可以与其他开发者合作，
有助于更快速迭代产品，为用户提供更有用、易用的产品
6、适合对AI生图有业务需求的企业客户,包括算法工程师,制作人,画师,设计师等
AIGC 客户案例分享易点天下
电商·广告创意主题营销场景应用
2、工程化解耦耗时长，没有整体解决方案
2、采用AI广告创意素材，某客户CTR 提升35.3%，CPC降至44.8%
AIGC 客户案例分享四月科技
游戏·基于亚马逊云科技构建二次元AIGC产品 Anime Al
2、客户只有移动端工程师，没有专业的运维和后端开发团队，也没有AI相关的技术经验
2、借助AI 绘画功能，将填色游戏的图片素材成本降低60%
3、Anime AI目前成为客户营收最高的业务，占公司总营收的1/3。
产品推荐
