ARM处理器：AI领域的新先锋是什么？

ARM架构在数据中心中的崛起

• 随着科技的不断发展，ARM架构在数据中心中变得越来越重要。从最初用于移动手机和树莓派等设备，到如今逐渐进入数据中心，ARM架构展现出了其强大的潜力。

• Amper作为一家硅设计创业公司，自六年前创立以来稳健成长，成功将ARM架构引入数据中心。他们凭借着正确的愿景和适时的资金支持，成为ARM架构在数据中心实现成功的典范。

• ARM架构源自英国的一家家用计算机开发公司，起初是为家庭电脑设计的。经过多年的发展，ARM架构被证明具有高效能并且适合其工作任务的特性。如今，它已经广泛应用于移动手机和客户端电脑中，甚至苹果产品也在使用。

• 对于习惯于使用x86或英特尔、AMD处理器的开发人员来说，ARM架构可能依然有些陌生。然而，ARM架构的强大性能和节能优势使其越来越受到关注。在数据中心中，ARM架构的应用将会给发展带来新的契机和挑战。

ARM架构在数据中心中的崛起

ARM架构和树莓派：开启计算机科技新纪元

• ARM架构自M1处理器问世以来在计算机领域发展迅速，如今已经成为全球最为发达的计算机架构之一。它绝对是生产数量最多的芯片之一，在移动领域将继续占据重要地位。随着软件生态系统的建立，将传统x86应用程序转换到ARM指令集，ARM架构在数据中心掀起了新的高速增长。

• 谈到单板计算机，最受欢迎的当属树莓派。树莓派之所以成为最受欢迎的产品，不仅仅是因为其创始故事令人着迷，更重要的是其得到了大量开发者的支持。开发者的热情参与吸引了更多的人加入，形成了强大的吸引力，促使更多公司关注。

• 树莓派的成功也在于其供不应求的状况，由于商业部署的广泛应用，甚至在NASA的高空气球实验中也得到了使用。开发者们无私奉献时间和才华，创造了整个生态系统，这正是树莓派与众不同之处。开发者的热情贡献正如引领计算机科技新时代的一把钥匙，让我们一同见证科技的奇迹。

ARM架构和树莓派：开启计算机科技新纪元

打造完美的芯片布局：从硅到人工智能

• 在硅片上选择正确的芯片布局对于安普尔来说就像正确配置固件一样重要，因此，运维人员和数据中心管理者可以以相同的方式管理这些安普尔机器。

• 我们的态度是不仅仅把硅片丢给我们的合作伙伴来构建平台，而是积极参与并支持软件生态系统。因此，我们致力于支持Linux内核、同时也承诺支持构建大规模数据中心基础设施的项目，比如像OpenStack等。

• 而今，让我们来聊聊今天的话题，人工智能。推断是什么？推断是一个网络连接结构，包含了许多精彩的想法，为了能够捕捉行为、反映数据，模型必须训练得当。但训练只是工作的一小部分。

• 当模型必须走出实验室进入现实世界，并得到利用时，推断就变得至关重要了。推断相对于训练来说，数学操作的负担要轻得多。但进行推断时，通常需要非常及时，例如从视频摄像头推断道路、汽车和行人等。

• 因此，推断不是实时的，需要在实时中完成。如果处理语音转文本模型，可能需要在我们说话的同时进行。推断对于商业系统或为客户开发功能而言至关重要。

打造完美的芯片布局：从硅到人工智能

实时即时字幕生成技术的发展与挑战

• 随着科技的不断进步，实时即时字幕生成技术成为了广播和视频领域的重要工具。过去，为了在直播过程中提供实时字幕，需要速记员用专用打字机进行打字，这是一个耗时且繁琐的过程。

• 然而，如今随着技术的发展，像是Whisper这样的模型在推断模式下能够实现与演讲者语速同步的字幕生成。推断是利用数据进行计算的过程，在整个成本中，推断所占比例约为85%，而模型的创建仅占15%。

• 因此，如何高效地处理推断过程变得至关重要。为了实现低延迟、真实时间的结果，关键在于在芯片内进行推断处理，而不是依赖昂贵、高功耗的GPU或定制硅芯片。

• 这种集成处理方式不仅能够节省能源开支，还能够保持低延迟。因此，即时字幕生成技术的发展既关乎效率和准确性，又和低功耗、低延迟息息相关。

实时即时字幕生成技术的发展与挑战

ARM处理器：创新的未来之路

• ARM处理器在不断创新和强化中，为您打造专门的CPU。我们致力于通过Onyx和其他产品为您提供支持。针对欧洲市场，针对法语的Mistral MH也展现出强大性能。

• 我们注重开发者的体验，力求简单易用。不希望让开发人员陷入特定架构的纠葛，我们在内核和常用框架中优化代码来体现ARM处理器的优势。

• 除此之外，我们还推出了AI优化包，类似于数学内核库，它作为一个介质，负责模型推理执行过程中的加速。它了解ARM兼容架构内的指令，无需开发者过多干预。

• 我们的多核架构可以支持高达128个核心，AI优化包能在核心深处进行加速，而开发者无需过多参与。这种灵活性让我们能够无缝部署，避免为人们换架构设置障碍。

• 我们以多元化的方式提供服务，无论是裸金属或虚拟化，还是容器化，我们都能胜任。我们的容器化部署方式简单方便，轻轻松松拉取镜像、运行容器，一切都如此顺畅。

• 感谢您分享这些宝贵信息，感谢您出席本次大会。希望您继续享受会议，期待在下次直播或网络研讨会中再次见到您，我们愿意继续这段合作。

ARM处理器：创新的未来之路

Conclusion:

ARM处理器在数据中心和人工智能领域展现出巨大的潜力，并且通过实时即时字幕生成技术的发展，为广播和视频领域带来创新。期待ARM处理器在未来的创新之路上继续引领潮流。

Q & A