最新
默认分类
安装与配置
TensorRT-LLM
Agent
端侧大模型
MCP
听澜盒
准备工作一个Linux系统。一个好点的显卡，目前仅支持算力8.0的显卡，推荐A100,30/40系暂不支持。已安装git/git-lfs，已安装docker。安装nvidia-container-runtime（强烈建议），安装步骤如下：添加NVIDIA包存储库密钥：# 对于ubuntu 18...