CUDA

想购买一个可以用来做yolo推理的边缘盒子，因为模型较多并且视频推理要流畅，所以考虑上独立显卡。 权衡利弊之后，选择了i9-11900KB+RTX4060的搭配。 硬件 快递介绍 拆箱 前 后 底 软件 远程ssh 通过ssh来捣鼓更方便。 ssh默认安装了，sshd还没有，所以 sudo apt update sudo apt install openssh-server 然后在本地windows电脑上使用ssh客户端连上即可（我使用的是WindTerm） btop btop 是一个现代化的、图形化的命令行系统监控工具，可以看作是经典 top 命令的“高颜值”增强版。 它会以清晰、彩色的图表和仪表盘形式，实时展示 CPU、内存、磁盘、网络和进程的详细信息。 sudo apt install btop 显卡驱动 默认已经提前安装好 cuda安装 请按照以下步骤操作： 步骤1：添加 NVIDIA 官方 CUDA 仓库 # 下载官方密钥环包 wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb # 安装密钥环 sudo dpkg -i cuda-keyring_1.1-1_all.deb # 更新软件源 sudo apt update 步骤2：安装 CUDA 12.6 工具包 # 安装 CUDA 12.6 sudo apt install cuda-toolkit-12-6 步骤3：配置环境变量 # 编辑 .bashrc echo 'export PATH=/usr/local/cuda-12.6/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.6/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc # 使配置生效 source ~/.bashrc 步骤4：验证安装 # 检查 nvcc 版本 nvcc --version # 应该看到类似输出： # Cuda compilation tools, release 12.6, V12.6.77 $ nvcc --version nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2024 NVIDIA Corporation Built on Tue_Oct_29_23:50:19_PDT_2024 Cuda compilation tools, release 12.6, V12.6.85 Build cuda_12.6.r12.6/compiler.35059454_0 Miniconda 以下是核心的安装步骤，请按顺序在终端中执行。 ...