架构师研究会

掌握LLM技术：定制化

1 June 2024

LLM, LLM定制化, 大语言模型, 大语言模型定制化,

Tags

使用NVIDIA TensorRT LLM和NVIDIA Triton部署AI编码助手

1 June 2024

AI编码助手, NVIDIA TensorRT-LLM, TensorRT-LLM,

阅读更多关于使用NVIDIA TensorRT LLM和NVIDIA Triton部署AI编码助手
登录发表评论
78 次浏览

Tags

使用NVIDIA TensorRT LLM调整和部署LoRA LLM

1 June 2024

阅读更多关于使用NVIDIA TensorRT LLM调整和部署LoRA LLM
登录发表评论
166 次浏览

NeMo Guardrails可编程LLM护栏

31 May 2024

使用NVIDIA NeMo微服务简化自定义生成AI开发

31 May 2024

NVIDIA NeMo, NeMo, 大模型防护,

Tags

使用NVIDIA Triton简化生产中的人工智能推理

31 May 2024

Triton, Nvidia Triton, MLOps, LLMOps, 人工智能,

Tags

使用NVIDIA Triton推理服务器部署AI深度学习模型

31 May 2024

【MLOPS】使用MIG和Kubernetes大规模部署NVIDIA Triton

31 May 2024

MIG, NVIDIA , Nvidia Triton, Kubernetes,

阅读更多关于【MLOPS】使用MIG和Kubernetes大规模部署NVIDIA Triton
登录发表评论
197 次浏览

Tags

【AI基础设施】使用Triton推理服务器部署ONNX模型

31 May 2024

Triton架构, Triton推理服务器, ONNX模型, AI基础设施, MLOps,

Tags

使用NVIDIA TensorRT和NVIDIA Triton优化和服务模型

31 May 2024

Triton, Nvidia Triton, TensorRT,

阅读更多关于使用NVIDIA TensorRT和NVIDIA Triton优化和服务模型
登录发表评论
85 次浏览

Tags

订阅

最新内容

【数据质量】数据质量应该是共享的，而不是拥有的
1 week 5 days ago
【安全运营】什么是运行时应用程序自我保护（RASP）？
3 weeks 4 days ago
Huiwen Han —— 论文与预印本目录 2026年7月
1 month ago
AxisRobo-PAMP：一个面向企业架构治理的开源 EA 管理平台
1 month ago
Huiwen Han — Preprints Public Inventory v10.15
2 months 3 weeks ago
【Azure网络】什么是Azure虚拟网络？
6 months 2 weeks ago
【Azure APIM】关于Azure API管理器的API凭据和凭据管理器
6 months 2 weeks ago
【Azure APIM】凭证管理器中的OAuth 2.0连接-流程细节和流程
6 months 2 weeks ago
【Azure APIM】使用虚拟网络保护Azure API管理的入站或出站流量
6 months 2 weeks ago
【Azure APIM】将Azure API管理实例部署到虚拟网络-内部模式
6 months 2 weeks ago

↑