发布日期：2024-12-02 14:10 点击次数：154
7月24日fss 露出，亚马逊云科技晓示，Meta刚刚发布的新一代Llama模子现已在 和 中提供。客户也不错在基于 和 自研芯片的 Cloud （ EC2）实例中部署这些模子。Llama 3.1模子是一系列预测验和提醒微调的妄语语模子（LLMs），复旧8B、70B和405B三种尺寸，适用于普通的使用场景。开发东谈主员、征询东谈主员和企业不错用此模子进行文本选录和分类、情感分析、话语翻译和代码生成。
Meta暗意，Llama 3.1 405B是现在最优秀和最大的开源基础模子（ ， FMs）之一，为生成式AI智商建立了新法子。它额外适用于合成数据生成和模子蒸馏，这能在后续测验中进步较小尺寸Llama模子的性能。Llama 3.1 405B还在通用常识、数学、用具使用和多话语翻译方面有出色的阐扬。
收货于大幅增多的测验数据和限度，悉数新的Llama 3.1模子比较之前的版块齐有清亮矫正。这些模子复旧128K的迂回文长度，相较于Llama 3增多了12万个鲜艳（Token），模子容量是上一版块的16倍，并进步了在以下八种话语对话场景中的推理智商，即英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。
Llama 3.1模子还增强对话语狭窄判袂的默契智商，即能更好地默契迂回文，并能更灵验地处理复杂问题。该模子还不错从长篇文本中得到更多信息，以作念出更贤慧的有筹备，并应用更丰富的迂回文数据生成愈加轮廓和凝练的回复。
伸开剩余75%亚马逊云科技首席实行官Matt 暗意：“咱们与Meta保握着遥远互助干系，今天很吹法螺能将他们动身点进的模子提供给咱们的客户。客户多数但愿字据他们的具体用例自界说和优化Llama模子，通过在亚马逊云科技上拜谒Llama 3.1，客户不错应用最新的跳跃模子来负拖累地构建AI应用。”
昔日十年间，Meta一直起劲于于为开发东谈主员提供用具，并促进开发东谈主员、征询东谈主员和企业之间的互助共赢。Llama模子提供多样参数尺寸，允许开发东谈主员采用最合适其需乞降推理预算的模子。亚马逊云科技上的Llama模子掀开了充满无穷可能的新天下，开发东谈主员无需再回归彭胀性或基础设施料理等问题。亚马逊云科技提供了一种浅薄的开箱即用的方式来使用Llama。
Meta创举东谈主兼首席实行官马克·扎克伯格暗意：“开源是让AI造福悉数东谈主的枢纽。咱们一直在与亚马逊云科技互助，将通盘Llama 3.1模子集成到 和 中，这么开发东谈主员就不错全面使用亚马逊云科技的多样智商来构建出色的应用，举例用于处理复杂任务的高档智能体。”
Llama 3.1模子的上风
Llama 3.1 405B
·适用于构建企业应用要领和研发
·用例包括：长篇文本生成、多话语和机器翻译、编码用具使用、增强的迂回文默契，以及高档推理和有筹备
Llama 3.1 70B
·适用于骨子创建、对话AI、话语默契和研发
·用例包括：文本选录、文天职类、情感分析和狭窄推理、话语建模、代码生成和罢免提醒
Llama 3.1 8B
推特 文爱·适用于筹备智商和资源有限的情况以及移动开辟
·更快的测验时间
·用例包括：文本选录和分类、情感分析和话语翻译
亚马逊云科技提供对多种妄语语模子的精真金不怕火拜谒
为数万名客户提供安全、方便的模子拜谒，提供性能超卓、澈底托管的大型话语模子和其他基础模子采用，并具有跳跃的易用性，是客户驱动使用Llama 3.1的方便路子，其中8B和70B参数模子也曾端庄可用，405B版块现提供预览。
客户但愿拜谒Llama 3.1模子并应用亚马逊云科技的悉数安全性和功能，这些通过 提供的一个浅薄的API即可精真金不怕火竣事，同期无需料理任何底层基础设施。客户还不错使用Llama 3.1提供的负拖累AI智商，该功能省略与 的数据惩办和评估功能配合使用，举例和模子评估。客户还不错使用 行将推出的微调功能来自界说模子。
是数据科学家和机器学习工程师预测验、评估和微调基础模子的绝佳平台，省略提供先进的时间和精细的铁心智商来部署基础模子，以自豪生成式AI用例在准确性、延伸和本钱方面的严格条件。今天，通过 ，客户仅需几次点击即可发现和部署悉数Llama 3.1模子。跟着行将推出的微调功能，数据科学家和机器学习工程师将省略更进一步使用Llama 3.1，举例在短短几小时内将Llama 3.1适配于他们的特定数据集。
亚马逊云科技首席实行官Matt 暗意：“ 是使用Llama 3.1进行快速构建的浅薄路子，提供行业跳跃的诡秘和数据惩办评估功能和内置保护措施。 提供的用具采用和精细铁心，则使九行八业的客户省略精真金不怕火测验和调度Llama模子，以鼓舞亚马逊云科技上的生成式AI翻新。”
关于但愿通过自料理机器学习责任流的方式在亚马逊云科技上部署Llama 3.1模子的客户， EC2提供普通的加快筹备选项，认为其提供更大的天真性和对底层资源的铁心。 和 省略为微斡旋部署Llama 3.1模子提供高性能和本钱效益。客户不错通过使用的 EC2 Trn1和Inf2实例在亚马逊云科技自研AI芯片上开启使用Llama 3.1的旅程。
客户也曾在亚马逊云科技上使用Llama模子
人人金融处事集团野村控股（）的业务袒护30个国度和地区。该集团正在使用 中的Llama模子简化海量行业文档的分析，以索求有关的生意信息，使职工不错将更多时间专注于从日记文献、阛阓挑剔或原始文档等数据源中索求洞见和得到枢纽信息。
跳跃的外包数字处事和客户体验提供商使用 中的Llama模子来复旧其专属生成式AI平台——。在该平台上构建智能用具fss 露出，自动化部分客户处事经过，开释团队成员处理更复杂的问题，并提供更好的客户体验。
发布于：广东省