英伟达发布RAPIDS cuDF框架 pandas在GPU上运行速度快了150倍

11月9日 消息：Nvidia 发布了一款名为 RAPIDS cuDF 的新版本，据称可以将 pandas 运行在 GPU 上，并且性能提升了150倍。pandas 是一款流行的基于 Python 的数据框架库，用于数据处理和分析。它的开源版本由 Wes McKinney 开发和发布，全球约有950万开发者使用。新版本的 RAPIDS cuDF 是基于 Apache Arrow 构建的 Python GPU dataframe 库，提供了类似 pandas 的 API，可以加载、过滤和操作数据。

之前使用 cuDF 时，存在一些限制，导致一些 pandas 功能无法受益于 GPU 加速计算。此外，需要为 GPU 和 CPU 执行设计不同的代码路径，并且在与其他 PyData 库交互时需要手动切换 cuDF 和 pandas。新版本的 RAPIDS cuDF 解决了这些问题，提供了统一的 CPU/GPU 体验，使得 pandas 代码可以在 GPU 加速环境下运行而不需要修改。

Nvidia 表示，他们使用 DuckDB 的 H2O.ai 的 Database-like Ops Benchmark 对性能提升进行了基准测试。测试中使用了一个5GB 的数据集，包含了一个连接操作和一个高级分组操作。在 CPU 上运行的 pandas 平均需要约5分7秒来执行这两个任务，而在使用 RAPIDS cuDF 加速的 pandas 上平均只需要约1.5秒。

GPU 加速的 pandas 现在已经作为 beta 版在开源的 RAPIDS 版本23.10中提供。Nvidia 表示，它将很快加入到 Nvidia AI Enterprise 中。这个新功能对于想要继续使用 pandas 进行大型数据处理的数据科学家来说非常有用，因为随着数据规模的增长，pandas 的性能会下降，而使用 GPU 加速可以获得更好的性能。

Nvidia 发布的新版本的 RAPIDS cuDF 框架为数据科学家提供了一个性能更高的选择。通过将 pandas 运行在 GPU 上，可以获得最高150倍的性能提升。这对于处理大规模数据的任务非常有用，使得数据科学家可以更高效地进行数据处理和分析。