Ubuntu环境中安装GPU加速来使用ragflow

　　要在 Ubuntu 系统中使用 GPU 加速 RAGFlow 的 embedding 和 DeepDoc 任务，你需要完成以下四个关键步骤：

　　✅ 前提条件确认

　　项目要求
系统 Ubuntu 20.04 / 22.04 / 24.04（推荐 22.04）
GPU NVIDIA（需支持 CUDA，建议 RTX 3060 以上）
Docker ≥ 24.0.0
Docker Compose ≥ v2.26.1

　　✅ 步骤 1：安装 NVIDIA 驱动 + CUDA + cuDNN

# 1. 安装 NVIDIA 驱动（推荐 535+）
sudo apt update
sudo apt install -y nvidia-driver-535 nvidia-dkms-535
sudo reboot
<h1 id="2. 安装 CUDA 工具包（推荐 12.1）">2. 安装 CUDA 工具包（推荐 12.1）</h1>
<p>wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run
sudo sh cuda_12.1.0_530.30.02_linux.run --toolkit --samples</p>
<h1 id="3. 安装 cuDNN（需注册 NVIDIA 账号）">3. 安装 cuDNN（需注册 NVIDIA 账号）</h1><h1 id="下载 cuDNN for CUDA 12.1 的 .deb 包并安装">下载 cuDNN for CUDA 12.1 的 .deb 包并安装</h1>
<p>sudo dpkg -i cudnn-local-repo-ubuntu2204-*.deb
sudo apt update && sudo apt install -y libcudnn8 libcudnn8-dev

　　✅ 步骤 2：安装 Docker + NVIDIA Container Toolkit

# 安装 Docker
sudo apt install -y docker.io docker-compose-plugin
<h1 id="安装 NVIDIA Container Toolkit">安装 NVIDIA Container Toolkit</h1>
<p>curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | <br />
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | <br />
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list</p>
<p>sudo apt update
sudo apt install -y nvidia-container-toolkit
sudo systemctl restart docker

　　✅ 步骤 3：验证 GPU 可用性

# 检查 NVIDIA 驱动
nvidia-smi
<h1 id="检查 Docker 是否能识别 GPU">检查 Docker 是否能识别 GPU</h1>
<p>docker run --rm --gpus all nvidia/cuda:12.1.0-base-ubuntu22.04 nvidia-smi

　　✅ 步骤 4：使用 GPU 启动 RAGFlow

# 克隆仓库
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
<h1 id="设置内核参数（防止 ElasticSearch 报错）">设置内核参数（防止 ElasticSearch 报错）</h1>
<p>sudo sysctl -w vm.max_map_count=262144
echo "vm.max_map_count=262144" | sudo tee -a /etc/sysctl.conf</p>
<h1 id="使用 GPU 启动 RAGFlow">使用 GPU 启动 RAGFlow</h1>
<p>sudo docker compose -f docker-compose-gpu.yml up -d

　　✅ 可选：修改端口或镜像源（如拉取失败）

端口冲突（如 80 被占用）：编辑 docker-compose-gpu.yml，修改端口映射，如：

  ports:
    - 9080:80

镜像源问题（如拉取失败）：编辑 .env 文件，替换为国内镜像：

  RAGFLOW_IMAGE=registry.cn-hangzhou.aliyuncs.com/infiniflow/ragflow

　　✅ 验证是否成功使用 GPU

# 查看容器日志
docker logs -f ragflow-server
<h1 id="出现以下日志说明 GPU 已启用：">出现以下日志说明 GPU 已启用：</h1><h1 id="* Running on all addresses (0.0.0.0)">* Running on all addresses (0.0.0.0)</h1><h1 id="GPU available: True">GPU available: True</h1>
<p>

　　🧪 测试建议
上传一个 PDF 或 Word 文档，观察：

解析速度是否明显提升；
GPU 使用率是否上升（nvidia-smi 查看显存占用）。

　　✅ 总结一句话

只要完成 NVIDIA 驱动 + CUDA + Docker GPU 支持 + 使用 docker-compose-gpu.yml 启动，即可在 Ubuntu 上成功启用 RAGFlow 的 GPU 加速。

　　如需我提供 .env 模板或 docker-compose-gpu.yml 自定义配置，请继续提问。