|
OpenXLA 现在可用来加速 AI 的开发和交付 |
来源:网站维护 |
作者:www.weihula.com |
人气: |
2023-3-13 |
|
|
|
|
|
|
|
|
内容提示:根据Google博客文章,ML(机器学习)开发和部署受到碎片化和孤立性的基础设施的影响,这些基础设施可能因框架、硬件和用例而不同,限制了开发者的速度并对模型的可移植性、效率和生产造成了障碍。 |
|
|
|
|
|
|
|
|
|
根据Google博客文章,ML(机器学习)开发和部署受到碎片化和孤立性的基础设施的影响,这些基础设施可能因框架、硬件和用例而不同,限制了开发者的速度并对模型的可移植性、效率和生产造成了障碍。
随着模型参数数量的指数式增长,深度学习模型的计算量每六个月翻一番,开发人员寻求最大的性能和基础设施的利用率。现在,开放了OpenXLA项目,包括XLA、StableHLO和REE库,以供使用和贡献,这是消除这些障碍的重要一步。
OpenXLA项目提供了一个最先进的ML编译器,可以在复杂的ML基础设施中扩展。这个通用的编译器可以将不同的硬件设备桥接到当今使用的多个框架(例如 TensorFlow、PyTorch),通过OpenXLA来帮助加速AI的开发和交付,实现AI的实际潜力。
OpenXLA是一个开源的ML编译器生态系统,由AI/ML行业领导者共同开发,包括阿里巴巴、亚马逊AWS、AMD、苹果、Arm、Cerebras、谷歌、Graphcore、Hugging Face、英特尔、Meta和英伟达。它使开发人员能够编译和优化所有领先的ML框架的模型,以便在各种硬件上进行有效的训练和服务。使用OpenXLA的开发者将看到训练时间、吞吐量、服务延迟以及最终上市时间和计算成本的显著改善。
|
【声明】本文章系本站编辑转载,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容! |
|
|
|
|
|