CuPy：面向 GPU 的 NumPy 与 SciPy

官方网站
| 安装指南
| 教程
| 示例
| 文档
| API 参考
| 论坛

CuPy 是一个与 NumPy/SciPy 兼容的数组库，用于在 Python 中进行 GPU 加速计算。CuPy 可以作为现有 NumPy/SciPy 代码的直接替代品，在 NVIDIA CUDA 或 AMD ROCm 平台上运行。

>>> import cupy as cp
>>> x = cp.arange(6).reshape(2, 3).astype('f')
>>> x
array([[ 0.,  1.,  2.],
       [ 3.,  4.,  5.]], dtype=float32)
>>> x.sum(axis=1)
array([  3.,  12.], dtype=float32)

CuPy 还提供了对底层 CUDA 功能的访问。你可以通过 RawKernels 将 ndarray 传递给现有的 CUDA C/C++ 程序，使用 Streams 提升性能，甚至直接调用 CUDA Runtime APIs。

安装

Pip

适用于 Linux 和 Windows 的二进制包（wheel）可在 PyPI 获取。请根据你的平台选择正确的包。

[!NOTE]\
如需安装预发布版本，请附加 --pre -U -f https://pip.cupy.dev/pre（例如：pip install cupy-cuda12x --pre -U -f https://pip.cupy.dev/pre）。

Conda

适用于 Linux 和 Windows 的二进制包也可在 Conda-Forge 获取。

如果你需要精简安装（不附带安装 CUDA 依赖），可以执行 conda install -c conda-forge cupy-core。

如果你需要使用特定的 CUDA 版本（例如 12.0），可以使用 cuda-version 元包来选择版本，例如 conda install -c conda-forge cupy cuda-version=12.0。

[!NOTE]\
如果你在使用从 conda-forge 安装的 CuPy 时遇到任何问题，请随时向 cupy-feedstock 报告，我们将协助调查这是否只是 conda-forge 配方中的打包问题，还是 CuPy 本身的实际问题。

Docker

使用 NVIDIA Container Toolkit 来运行 CuPy 容器镜像。

$ docker run --gpus all -it cupy/cupy

资源

• 安装指南 - 从源代码构建的说明
• 发布说明
• 使用 CuPy 的项目
• 贡献指南
• 使用 CuPy 和 Numba 在 Python 中进行 GPU 加速（GTC 2021 年 11 月技术会议）
• 使用 CuPy 和 cuSignal 加速信号处理工作流1（ICASSP'21 教程）

许可证

MIT 许可证（详见 LICENSE 文件）。

CuPy 的设计基于 NumPy 和 SciPy 的 API（详见 docs/source/license.rst 文件）。

CuPy 由 Preferred Networks 和社区贡献者 共同开发和维护。

参考文献

Ryosuke Okuta, Yuya Unno, Daisuke Nishino, Shohei Hido and Crissman Loomis.
CuPy: A NumPy-Compatible Library for NVIDIA GPU Calculations.
Proceedings of Workshop on Machine Learning Systems (LearningSys) in The Thirty-first Annual Conference on Neural Information Processing Systems (NIPS), (2017).
[PDF]

@inproceedings{cupy_learningsys2017,
  author       = "Okuta, Ryosuke and Unno, Yuya and Nishino, Daisuke and Hido, Shohei and Loomis, Crissman",
  title        = "CuPy: A NumPy-Compatible Library for NVIDIA GPU Calculations",
  booktitle    = "Proceedings of Workshop on Machine Learning Systems (LearningSys) in The Thirty-first Annual Conference on Neural Information Processing Systems (NIPS)",
  year         = "2017",
  url          = "http://learningsys.org/nips17/assets/papers/paper_16.pdf"
}