亚马逊，大力发展芯片
德克萨斯州奥斯汀市一栋没有标记的办公楼里，两个小房间里放着一些亚马逊产品员工设计两种类型的微芯片来训练和加速生成人工智能。这些定制芯片 inferentia 和 trainium 为 aws 客户提供了在nvidia上训练大型语言模型的替代方案，因为gpu 的采购变得越来越困难且昂贵。
亚马逊网络服务首席执行官 adam selipsky在 6 月份接受 cnbc 采访时表示：“全世界都希望有更多芯片用于生成人工智能，无论是 gpu 还是我们正在设计的亚马逊自己的芯片。” “我认为我们比地球上任何其他人都更有能力提供我们的客户共同需要的容量。”
然而，其他公司则采取了更快的行动，投入了更多资金，以从生成式人工智能热潮中获取业务。当openai 在 11 月推出 chatgpt时，微软
因托管病毒式聊天机器人以及据报道向 openai 投资 130 亿美元而受到广泛关注。该公司很快将生成式人工智能模型添加到自己的产品中，并于二月份将其合并到 bing 中。
同月，谷歌推出了自己的大型语言模型 bard，随后向openai 竞争对手 anthropic 投资了 3 亿美元。
直到四月份，亚马逊才宣布推出自己的大型语言模型系列（名为 titan），以及一项名为 bedrock 的服务，以帮助开发人员使用生成式人工智能增强软件。
“亚马逊不习惯于追逐市场。亚马逊习惯于创造市场。我认为，很长一段时间以来，他们第一次发现自己处于不利地位，并且正在努力追赶，”gartner 副总裁分析师chirag dekate 说。
meta近还发布了自己的大模型llama 2。开源的 chatgpt 竞争对手现在可供人们在微软的 azure 公共云上进行测试。
芯片是“真正的差异化”
dekate 表示，从长远来看，亚马逊的定制芯片可以使其在生成人工智能领域占据优势。
“我认为真正的差异化在于他们所发挥的技术能力，”他说。“你猜怎么着？微软没有 trainium 或 inferentia，”他说。
aws 早在 2013 年就悄悄开始生产定制芯片，使用一种名为 nitro 的专用硬件。它现在是销量最高的 aws 芯片。亚马逊告诉 cnbc，每台 aws 服务器都至少有一片，使用中的服务器总数超过 2000 万台。
2015年，亚马逊收购了以色列芯片初创公司annapurna labs。然后在 2018 年，亚马逊推出了基于 arm 的服务器芯片 graviton ，这是amd和英特尔等巨 x86 cpu 巨头的竞争对手。
“arm 可能占服务器总销售额的个位数甚至 10%，其中很大一部分将来自亚马逊。因此，在 cpu 方面，他们做得相当好。”伯恩斯坦研究。
同样是在 2018 年，亚马逊推出了专注于 ai 的芯片。两年前，谷歌宣布推出首款张量处理器单元（tpu）。微软尚未宣布其正在开发的 athena ai 芯片，据报道该芯片与 amd 合作。
cnbc 参观了亚马逊位于德克萨斯州奥斯汀的芯片实验室，trainium 和 inferentia 就是在这里开发和测试的。产品副总裁 matt wood 解释了这两种芯片的用途。
“机器学习分为这两个不同的阶段。因此，你训练机器学习模型，然后对这些经过训练的模型进行推理，”伍德说。“相对于在 aws 上训练机器学习模型的任何其他方式，trainium 的性价比提高了约 50%。”
继 2019 年发布 inferentia（目前已是第二代）之后，trainium 于 2021 年首次上市。
inferentia 允许客户“提供非常非常低成本、高吞吐量、低延迟的机器学习推理，这是当您在生成人工智能模型中输入提示时的所有预测，所有这些都将被处理到给你回应，”伍德说。
然而，就目前而言，在训练模型方面，nvidia 的 gpu 仍然是王者。7 月，aws推出了由 nvidia h100 支持的新型 ai 加速硬件。
rasgon 表示：“nvidia 芯片拥有一个庞大的软件生态系统，在过去 15 年里，围绕它们建立起来的软件生态系统是其他公司所没有的。” “目前人工智能的最大赢家是英伟达。”
利用云优势
然而，aws 的云主导地位是亚马逊的一大差异化因素。
“亚马逊不需要赢得头条新闻。亚马逊已经拥有非常强大的云安装基础。他们所需要做的就是弄清楚如何让现有客户能够利用生成式人工智能扩展到价值创造活动，”德凯特说。
当在亚马逊、谷歌和微软之间选择生成式人工智能时，数以百万计的 aws 客户可能会被亚马逊吸引，因为他们已经熟悉亚马逊，运行其他应用程序并在那里存储数据。
“这是一个速度问题。这些公司能够以多快的速度开发这些生成式 ai 应用程序，这取决于首先从 aws 中拥有的数据开始，并使用我们提供的计算和机器学习工具，”aws 技术副总裁mai-lan tomsen bukovec 解释道 。
根据科技行业研究机构gartner的数据，aws 是全球最大的云计算提供商，到 2022 年将占据 40% 的市场份额。尽管营业收入连续三个季度同比下降，但aws第二季度仍占亚马逊整体77亿美元营业利润的70 %。aws 的运营利润率历来远高于谷歌云。
aws 还拥有不断增长的专注于生成式 ai 的开发人员工具组合。
“让我们把时间倒回到 chatgpt 之前。这并不像那件事发生之后，我们突然匆忙制定了一个计划，因为你不可能在那么快的时间内设计出芯片，更不用说你无法在大约 2 到 3 个月的时间。”aws 数据库、分析和机器学习副总裁 swami sivasubramanian 说道。
bedrock 使 aws 客户能够访问由anthropic、stability ai、ai21 labs 和亚马逊自己的 titan 制作的大型语言模型。
“我们不相信一种模型会统治世界，我们希望我们的客户能够拥有来自多个提供商的最先进的模型，因为他们会为正确的工作选择正确的工具，”西瓦苏布拉马尼安说道。
机器学习中统计概率分布大全
灵动佳芯发布一种非接触式红外体温传感器
FPGA芯片下游行业的发展情况和趋势
推荐几款比较实惠的适合运动使用的蓝牙耳机
顺应5G趋势 执着地在PCB领域追求高端
亚马逊，大力发展芯片
NANK南卡耳机爆卖10万条，NANK南卡LITE强势上线掀抢购狂潮！
5G边缘计算网关有哪些类型
常见阻碍数据建模的原因有哪些
LT1766降压变换器,LT1766 BUCK CONVERTER
数字化时代，API网关为何如此重要？
土壤养分速测仪原理【莱恩德LD-GT3】
为什么汽车芯片还在缺货？
关于选购同茂柔性振动供料系统用音圈电机问题的解析
10亿元锂电池项目开工
钟南山院士团队与腾讯AI Lab利用AI预测COVID-19患者病情发展至危重概率的研究成果
MAX9892 具有旁路模式的杂音抑制器
苹果AirPods Pro 2迎来更新 有望OTA支持无损音频
智能检测系统的原理与结构
富士康将联合吉利成立汽车代工厂
亚马逊网络服务首席执行官 adam selipsky在 6 月份接受 cnbc 采访时表示：“全世界都希望有更多芯片用于生成人工智能，无论是 gpu 还是我们正在设计的亚马逊自己的芯片。” “我认为我们比地球上任何其他人都更有能力提供我们的客户共同需要的容量。”
然而，其他公司则采取了更快的行动，投入了更多资金，以从生成式人工智能热潮中获取业务。当openai 在 11 月推出 chatgpt时，微软
因托管病毒式聊天机器人以及据报道向 openai 投资 130 亿美元而受到广泛关注。该公司很快将生成式人工智能模型添加到自己的产品中，并于二月份将其合并到 bing 中。
同月，谷歌推出了自己的大型语言模型 bard，随后向openai 竞争对手 anthropic 投资了 3 亿美元。
直到四月份，亚马逊才宣布推出自己的大型语言模型系列（名为 titan），以及一项名为 bedrock 的服务，以帮助开发人员使用生成式人工智能增强软件。
“亚马逊不习惯于追逐市场。亚马逊习惯于创造市场。我认为，很长一段时间以来，他们第一次发现自己处于不利地位，并且正在努力追赶，”gartner 副总裁分析师chirag dekate 说。
meta近还发布了自己的大模型llama 2。开源的 chatgpt 竞争对手现在可供人们在微软的 azure 公共云上进行测试。
芯片是“真正的差异化”
dekate 表示，从长远来看，亚马逊的定制芯片可以使其在生成人工智能领域占据优势。
“我认为真正的差异化在于他们所发挥的技术能力，”他说。“你猜怎么着？微软没有 trainium 或 inferentia，”他说。
aws 早在 2013 年就悄悄开始生产定制芯片，使用一种名为 nitro 的专用硬件。它现在是销量最高的 aws 芯片。亚马逊告诉 cnbc，每台 aws 服务器都至少有一片，使用中的服务器总数超过 2000 万台。
2015年，亚马逊收购了以色列芯片初创公司annapurna labs。然后在 2018 年，亚马逊推出了基于 arm 的服务器芯片 graviton ，这是amd和英特尔等巨 x86 cpu 巨头的竞争对手。
“arm 可能占服务器总销售额的个位数甚至 10%，其中很大一部分将来自亚马逊。因此，在 cpu 方面，他们做得相当好。”伯恩斯坦研究。
同样是在 2018 年，亚马逊推出了专注于 ai 的芯片。两年前，谷歌宣布推出首款张量处理器单元（tpu）。微软尚未宣布其正在开发的 athena ai 芯片，据报道该芯片与 amd 合作。
cnbc 参观了亚马逊位于德克萨斯州奥斯汀的芯片实验室，trainium 和 inferentia 就是在这里开发和测试的。产品副总裁 matt wood 解释了这两种芯片的用途。
“机器学习分为这两个不同的阶段。因此，你训练机器学习模型，然后对这些经过训练的模型进行推理，”伍德说。“相对于在 aws 上训练机器学习模型的任何其他方式，trainium 的性价比提高了约 50%。”
继 2019 年发布 inferentia（目前已是第二代）之后，trainium 于 2021 年首次上市。
inferentia 允许客户“提供非常非常低成本、高吞吐量、低延迟的机器学习推理，这是当您在生成人工智能模型中输入提示时的所有预测，所有这些都将被处理到给你回应，”伍德说。
然而，就目前而言，在训练模型方面，nvidia 的 gpu 仍然是王者。7 月，aws推出了由 nvidia h100 支持的新型 ai 加速硬件。
rasgon 表示：“nvidia 芯片拥有一个庞大的软件生态系统，在过去 15 年里，围绕它们建立起来的软件生态系统是其他公司所没有的。” “目前人工智能的最大赢家是英伟达。”
利用云优势
然而，aws 的云主导地位是亚马逊的一大差异化因素。
“亚马逊不需要赢得头条新闻。亚马逊已经拥有非常强大的云安装基础。他们所需要做的就是弄清楚如何让现有客户能够利用生成式人工智能扩展到价值创造活动，”德凯特说。
当在亚马逊、谷歌和微软之间选择生成式人工智能时，数以百万计的 aws 客户可能会被亚马逊吸引，因为他们已经熟悉亚马逊，运行其他应用程序并在那里存储数据。
“这是一个速度问题。这些公司能够以多快的速度开发这些生成式 ai 应用程序，这取决于首先从 aws 中拥有的数据开始，并使用我们提供的计算和机器学习工具，”aws 技术副总裁mai-lan tomsen bukovec 解释道 。
根据科技行业研究机构gartner的数据，aws 是全球最大的云计算提供商，到 2022 年将占据 40% 的市场份额。尽管营业收入连续三个季度同比下降，但aws第二季度仍占亚马逊整体77亿美元营业利润的70 %。aws 的运营利润率历来远高于谷歌云。
aws 还拥有不断增长的专注于生成式 ai 的开发人员工具组合。
“让我们把时间倒回到 chatgpt 之前。这并不像那件事发生之后，我们突然匆忙制定了一个计划，因为你不可能在那么快的时间内设计出芯片，更不用说你无法在大约 2 到 3 个月的时间。”aws 数据库、分析和机器学习副总裁 swami sivasubramanian 说道。
bedrock 使 aws 客户能够访问由anthropic、stability ai、ai21 labs 和亚马逊自己的 titan 制作的大型语言模型。
“我们不相信一种模型会统治世界，我们希望我们的客户能够拥有来自多个提供商的最先进的模型，因为他们会为正确的工作选择正确的工具，”西瓦苏布拉马尼安说道。
机器学习中统计概率分布大全
灵动佳芯发布一种非接触式红外体温传感器
FPGA芯片下游行业的发展情况和趋势
推荐几款比较实惠的适合运动使用的蓝牙耳机
顺应5G趋势 执着地在PCB领域追求高端
亚马逊，大力发展芯片
NANK南卡耳机爆卖10万条，NANK南卡LITE强势上线掀抢购狂潮！
5G边缘计算网关有哪些类型
常见阻碍数据建模的原因有哪些
LT1766降压变换器,LT1766 BUCK CONVERTER
数字化时代，API网关为何如此重要？
土壤养分速测仪原理【莱恩德LD-GT3】
为什么汽车芯片还在缺货？
关于选购同茂柔性振动供料系统用音圈电机问题的解析
10亿元锂电池项目开工
钟南山院士团队与腾讯AI Lab利用AI预测COVID-19患者病情发展至危重概率的研究成果
MAX9892 具有旁路模式的杂音抑制器
苹果AirPods Pro 2迎来更新 有望OTA支持无损音频
智能检测系统的原理与结构
富士康将联合吉利成立汽车代工厂