关闭

2HZZ常识网

tensorrt安装windows

2025-01-18 21:39:03浏览:
tensorrt安装windows以下是在Windows上安装TensorRT的详细步骤:
  1. 前提条件检查:
    • 拥有英伟达显卡,且显存8GB以上(30系、40系等新卡更好)。
    • 安装了英伟达显卡驱动,版本需大于等于530。

  2. 安装CUDA:
    • 根据TensorRT的版本要求,下载兼容的CUDA版本。
      例如,可前往英伟达遥网站的CUDA下载页面,选择适合您系统的版本(如CUDA12.1等)。
      下载完成后,双击安装程序,安装位置可选择默认。
    • 安装完成后,确认CUDA的库文件路径和二进制文件路径已添加到系统的环境变量中。
      您可以在命令提示符中输入nvcc-V来检查CUDA是否安装遥。

  3. 安装cuDNN:
    • 在英伟达遥网站上下载与您安装的CUDA版本相匹配的cuDNN。
      比如,如果您安装的是CUDA12.1,就选择适合CUDA12.x的cuDNN版本。
    • 将下载的cuDNN压缩包解压,找到CUDA的安装目录(例如C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v12.1),然后将cuDNN解压后的对应文件夹中的文件复制到CUDA安装目录下的相应文件夹。
      具体来说,需要复制3次,分别将cuDNN的bin文件夹下的文件复制到CUDA的bin文件夹,include文件夹下的文件复制到CUDA的include文件夹,lib文件夹下的文件复制到CUDA的lib文件夹。

  4. 安装TensorRT:
    • 从英伟达遥网站下载TensorRT的压缩包。
      需注意选择与您的CUDA版本和系统相匹配的版本。
    • 解压下载的TensorRT压缩包。
    • 将TensorRT解压后的bin文件夹中的所有动态链接库(.dll文件)复制到CUDA的bin文件夹。
    • 将TensorRT的include文件夹复制到CUDA的include文件夹。
    • 将TensorRT的lib文件夹中的静态库(.lib文件)复制到CUDA的lib文件夹。

  5. 安装TensorRT的Python包(如果需要在Python中遥):
    • 进入解压后的TensorRT文件夹中的python子文件夹。
    • pip命令安装该文件夹下对应的.whl文件。
      例如,如果您的Python版本是3.8,就安装tensorrt-xxx-cp38-none-win_amd64.whl(其中xxx为具体的版本号)。
      您可能还需要安装graphsurgeonuffonnx_graphsurgeon等相关的Python包。

  6. 验证安装:
    • 打开命令提示符或Python解释器,输入importtensorrt,如果没有报错并能正确打印出TensorRT的版本信息,则说明安装遥。