华体会体育英特尔颁布全新软硬件平台全速助力企业促进AI更始

  新闻资讯     |      2024-04-11 07:27

  中合村正在线日,英特尔举办了面向客户和团结伙伴的英特尔on家当改进大会,揭晓了英特尔至强6处分器的全新品牌,推出英特尔Gaudi3加快器,以高机能、绽放性和乖巧性助力企业胀动天生式AI改进,并宣布了涵盖全新绽放、可扩展编制,下一代产物和一系列政策团结的全栈管理计划,以加快天生式AI落地。依照cnvrg.io的调研结果,2023年只要10%的企业凯旋将其天生式AI项目产物化。英特尔的最新管理计划希望助助企业应对施行AI项目时所面对的寻事。

  英特尔公司首席施行官帕特·基辛格外现:“改进手艺正正在以史无前例的速率开展,每家公司都正在加快成为AI公司,这悉数都需求半导体手艺供应赞成。从PC到数据核心再到角落,英特尔正正在让AI走进千行百业。英特尔最新的Gaudi、至强和酷睿平台将供应乖巧的、可定制化的管理计划,满意客户和团结伙伴一向转折的需求,掌握住异日的宏大机缘。”

  英特尔Gaudi 3 AI加快器将为AI编制供应动力,该AI编制可通过以太网的通用准绳连合众达数万个加快器。与上一代产物比拟,英特尔Gaudi 3将带来4倍的BF16 AI揣度本领擢升,以及1.5倍的内存带宽擢升。该加快器将为寻求大界限安插天生式AI的企业带来AI练习和推理方面的宏大奔腾。英特尔Gaudi 3估计可大幅缩短70亿和130亿参数Llama2模子,以及1750亿参数GPT-3模子的练习年光。别的,正在Llama 7B、70B和Falcon 180B大措辞模子(LLM)的推理含糊量和能效方面也闪现了精彩机能。

  英特尔Gaudi 3供应绽放的、基于社区的软件和行业准绳以太网汇集,准许企业乖巧地从单个节点扩展到拥少睹千个节点的集群、超等集群和超大集群,赞成大界限的推理、微妥洽练习。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货。

  英特尔概述了面向绽放的、可扩展的AI编制的政策,此中征求硬件、软件、框架和器械。英特尔让平常的AI绽放生态编制到场者,如筑筑成立商、数据库供应商、编制集成商、软件和任事供应商等,或许供应满意企业特定天生式AI需求的管理计划。与此同时,亦让企业与他们已知、信赖的生态编制团结伙伴打开团结并选用相应管理计划。

  英特尔撮合Anyscale、Articul8、DataStax、Domino、HuggingFace、KXSystems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz配合揭晓,将创筑一个绽放平台助力企业促使AI改进。这一凝固全行业力气的盘算旨正在拓荒绽放的、众供应商的天生式AI编制,通过RAG(检索加强天生)手艺,供应一流的安插方便性、机能和价格。RAG可使企业正在准绳云本原步骤上运转的洪量现存专少睹据源获得绽放大措辞模子(LLM)功效的加强,加快天生式AI正在企业中的行使华体会体育。正在该盘算的初始阶段,基于安好的至强处分器和Gaudi管理计划,英特尔将面向天生式AI历程(pipelines)推出参考完成,宣布手艺观点框架,并接连增加英特尔Tiber拓荒者云平台本原步骤的功效,以便为RAG及异日历程的生态编制拓荒和确认打下本原。英特尔胀吹生态编制进一步到场到这一绽放平台的创筑中来,以推进企业采用该平台,扩充管理计划的行使界限,并获得营业功劳。

  :英特尔至强处分器为运转如今的天生式AI管理计划供应了机能高效的管理计划,征求行使专少睹据天生特定营业结果的RAG。同时,英特尔还为面向数据核心、云和角落的下一代处分器实行了品牌焕新,即英特尔至强6。装备能效核(E-cores)的英特尔至强6处分器将于2024年第二季度推出,供应超卓的结果,装备机能核(P-cores)的英特尔至强6处分器将紧随其后推出,带来更高的AI机能。

  客户能以近3:1的比例交换旧编制,大幅低落能耗,助助其完成可连接开展宗旨。

  包蕴了对MXFP4数据花样的软件赞成,与行使FP16的第四代英特尔至强处分器比拟,可将下一个令牌(token)的延迟年光最众缩短6.5倍,或许运转700亿参数的Llama-2模子。

  :英特尔分享了客户端产物的开展势头以及诸众角落和汇集互联产物的途径图更新,征求:

  英特尔酷睿Ultra处分器为分娩力、安好性和实质创作供应了全新本领,并为企业焕新其PC筑筑供应了宏大动力。英特尔估计将于2024年出货4000万台AI PC,以及突出230种的安排,掩盖轻浮PC和逛戏掌机筑筑。将于2024年推出的下一代英特尔酷睿Ultra客户端处分器家族(代号Lunar Lake),将具备突出100 TOPS平台算力,以及正在神经汇集处分单位(NPU)上带来突出46 TOPS的算力,从而为下一代AI PC供应宏大赞成。

  英特尔宣布了涵盖英特尔酷睿Ultra、英特尔酷睿、英特尔凌动处分器和英特尔锐炫显卡系列产物正在内的全新角落芯片,要紧面向零售、工业成立和医疗等合节规模。英特尔角落AI产物组合内的全数新品将于本季度上市,并将正在本年年内获取英特尔Tiber角落平台的赞成。

  通过超以太网定约(UEC),英特尔正正在驱动面向AI高速互联手艺(AI Fabrics)的绽放式以太网汇集改进,并推出一系列针对AI优化的以太网管理计划。这些改进旨正在创新可大界限纵向(scale-up)和横向(scale-out)扩展的AI高速互联手艺,以赞成AI模子的练习和推理,这些模子的界限日益宏壮,每一代都邑延长一个数目级。英特尔的产物组合征求英特尔AI汇集连合卡(AI NIC)、集成到XPU的AI连合芯粒、基于Gaudi加快器的编制,以及一系列面向英特尔代工的AI互联软硬件参考安排。

  英特尔宣布了英特尔Tiber营业管理计划组合,以简化企业软件和任事的安插,征求天生式AI。这一团结的体验将使企业客户和拓荒职员或许更轻松地找到适合其需求的管理计划,加快改进并开释价格,同时不仙游安好性、合规性或机能。客户本日起便可先河探寻英特尔Tiber产物组合,本年第三季度这一管理计划将会所有推出。

  英特尔永远勉力于让AI更易于行使、更绽放、更安好,从而满意环球企业的分别需求。通过IntelVision 2024大会上颁发的全新团结和管理计划,英特尔将正在AI海潮中努力引颈改进,让AI为各行各业带来史无前例的价格。