跳至主要内容
kjh

人工智能和机器学习

随着人工智能 (AI) 和机器学习 (ML) 对新商业模式变得至关重要,而数据中心性能是未来盈利能力和竞争力的基础。数据通信工程师面临着将设施性能升级到 224 Gbps-PAM4 等最新技术,以及采用最先进的路由、空间效率和电源管理策略等压力。

革新 AI 数据基础设施


从大数据的起源到深度学习的发展和大语言模型 (LLM) 时代,数据处理应用的功能和影响力越来越强大。每一次突破都重新定义了可能性,并提出了数据通信工程师必须应对的独特挑战和机遇,从而确保运营的稳健、可扩展和高效。

数据中心代表着实现我们不断升级的数字经济的物理基础设施,因此其可靠性非常重要。然而,AI 和 ML 领域的最新进展对其当前功能提出了前所未有的要求。为了高效存储和处理这些庞大的数据集,需要更大的带宽和更低的延迟。

此外,随着 AI 模型越来越复杂,训练和推理所需的计算带宽会激增,导致运营成本增加,并且需要采用更先进的热和电源管理策略。事实上,训练 ChatGPT 4.0 等大型生成式 AI 模型需要多达 10 的 24 次方 (1025) FLOPS 的处理能力,预计成本为 1 亿美元。随着 ML 应用进一步移至边缘以支持自动驾驶汽车、医疗诊断和智能家居等应用,将进一步感受到这一影响——预计到 2034 年,该市场的规模将超过 220 亿美元。

这就需要更加强大、高效的新一代 GPU 硬件、更高的网络内部数据传输速率,以及可适应不断增长的 AI 和 ML 需求的可扩展系统。

Molex莫仕正处于这些发展成果的前沿,与我们的客户合作开发创新解决方案,从我们率先上市的 224G 产品组合到下一代 PCIe 技术,包罗万象。我们的全球跨学科工程专家团队专注于效率,提供可扩展的模块化互连解决方案,解决速度、响应能力、信号完整性、热管理、空间限制和易于维护等问题。

按数字

adfg

42%

2022 年至 2032 年生成式 AI 市场的复合年增长率 (CAGR)

sg

1.3 万亿美元

预计 10 年后生成式 AI 的市场价值

fb

6 个月

ML 数据量要求翻倍所需的时间

dh

100 亿

自 2010 年以来学习模型训练计算增长的因素

特色资源


高性能计算的构建模块

数据中心一直在力图提升计算性能,同时实现现有基础设施投资价值的最大化。高性能计算 (HPC) 模块化硬件解决方案为此提供了一种策略,可实现快速可扩展性、有效的热管理和高速可靠的连接。

采用 AI 和 ML 的趋势和推动因素

AI 和 ML 越来越多地被用于帮助管理日益复杂的网络,以及寻找实现日常流程自动化的新方法。这导致来自汽车医疗健康与诊断智能农业以及消费品设计与制造等不同行业的数据浪潮的涌现。

这些行业现在依靠 AI 和 ML 来提供基于实时分析的见解,以及优化云和物联网 (IoT) 网络的资源分配。同时,算法创新和更大的实验学习模型不断为供应链、产品开发和客户体验领域的业务应用开辟新途径。

对更强大计算能力的渴望与采用更加灵活的架构和模块化硬件平台是相辅相成的,共同为当前和未来需求提供支持。

sdf

AL 和 ML 革命带来的挑战

在数据中心和周边网络中实施 AI 和 ML 会带来一些难题:

  • 首先是数据管理,许多应用的规模十分庞大并且非常关键,需要强大的系统来实现存储、路由、预测分析和数据安全。
  • 可扩展性是另一个难题——随着网络需求升级,AI 和 ML 框架必须能够进行调整和扩展,以适应不断波动的负载。
  • 整个数据中心的信号完整性至关重要。完整性遭到破坏可能会干扰模型,导致结果错误以及性能下降。
  • 计算和传输速率提高会导致产生的热量也随之增加。可靠性部分取决于整个数据中心运营中的有效热管理。
  • 最后,将 AI 和 ML 集成到现有基础设施中需要精心协调,以保持系统和谐,升级到下一代硬件而不会中断正在进行的操作。
sdg

其他资源


下一代数据中心的热管理

了解专为高性能计算而设计的下一代数据中心热管理解决方案。借助尖端技术优化服务器和存储基础设施,确保为计算密集型业务提供高效散热,并实现最佳性能。

开放加速器基础设施的模块化形式

AI 的兴起使高速数据中心所面临的兼容性和可扩展性挑战日益严峻,为了应对这些挑战,开放计算项目 (OCP) 应运而生。Molex 莫仕平行板连接器作为创新型加速器基础设施的核心组件,在实现高效通信和可扩展性方面发挥着关键作用,能充分满足 AI 工作负载的需求。 

adf

铜缆持久优势

要满足 AI 和其他先进应用的需求,需要下一代 224G 速度。了解高速铜缆互连技术如何适应 AI 时代的发展,确保为前沿的 224Gbps 应用提供无与伦比的速度、效率和可靠性。

adf

未来是 224G

下一代数据中心会是什么样子? 让我们先睹为快,来看看 224 Gbps-PAM4 系统,以及为系统架构师提供新功能和灵活性的改进。

打造超大规模数据中心

Molex 带来了下一代 PCIe 技术、定制架构设计和率先上市的全方位 224 Gbps-PAM4 产品组合,实现前所未有的数据中心性能。

最优质的电源

数据中心需要的不仅仅是更多电力,还需要更加可靠的电源连接器。Molex莫仕工程师正在寻找新的能源管理方法,以消除浪涌和尖峰、避免关键的热限制,并通过数据中心基础设施灵活输送电力。

特色产品