英伟达GTC 2024研究报告：AI软件与应用有哪些看点？（附下载）

需要下载本报告的朋友，可以扫描下方二维码进圈，2万+份报告，3000+会员，高清原版，无限制下载，持续更新

（公众号资源有限，仅能展示部分少数报告，加入星球获取更多精选报告）

（精选报告来源：报告研究所）

由于英伟达 GTC 2024大会实际内容较多，本文主要介绍本次大会的 AI 软件与 AI 应用（+智能车、+医疗、+工业）相关重 点内容。关于黄仁勋主题演讲、机器人领域最新成果，欢迎参考我们此前的两篇研报《全新 Blackwell 芯片亮相 GTC，AI 赋能机器人助力产业加速》、《英伟达推出 Project GR00T，旨在推动机器人和具身智能》。

一、 AI 工具：NIM 微服务构建企业级 GPTs，ChatRTX 引入新 AI 模型

AI 工具方面，值得关注的是 NIM 微服务的推出以及 ChatRTX 迎来更新。NIM 推理微服务提供预构建的容器，配备行业标 准的 API，使开发人员能够在 RTX PC 和工作站上加速部署。ChatRTX迎来全面更新，一方面是即将添加对语音、图像的 支持，另一方面AI 模型选择上除了之前可选的亚马逊 Mistral 和Meta Llama 2，还将引入谷歌 Gemma、智谱 ChatGLM。我们认为无论是 NIM 微服务的推出，还是 ChatRTX在多模态和可选模型上的更新，均有助于企业级 GPTs 的构建，将为行 业高效构建 AI 应用提供支撑。

容器型微服务 NIM 发布。NVIDIA AI Enterprise 5.0 在大会上正式发布，其中包括用于在生产中部署 AI 模型的 NVIDIA NIM 和 NVIDIA CUDA-X等数十项企业级生成式 AI 微服务推出。NVIDIA NIM（NVIDIA Inference Microservices）是集成英伟达 多款软件为一体的新容器型微服务，由 NVIDIA 推理软件（包括 Triton 推理服务器、TensorRT 和 TensorRT-LLM）提供 支持，可将部署时间由数周缩短至数分钟，适用于来自 NVIDIA、Getty Images、Google、Meta、Microsoft、Shutterstock 等公司的 20 多个热门 AI 模型进行推理优化。同时，NIM 为语言、语音和药物发现等领域提供行业标准 API，使开发者能 够使用安全托管在自己的基础设施中的专有数据，来快速构建 AI 应用。这些应用可按需扩展，从而为在 NVIDIA 加速计 算平台上运行生产级生成式 AI 提供灵活性和性能。英伟达表示，用户将能够从亚马逊 SageMaker、谷歌 Kubernetes Engine 和微软 Azure AI 中访问 NIM 微服务，并与 Deepset、LangChain 和 LlamaIndex 等流行的 AI 框架集成。

1）NIM+Nemo：在 NIM 的搭建过程中，英伟达介绍，利用 Nvidia NeMo Retriever 技术，公司专有数据可以被集成到这个 微服务里以供使用，最终用户会得到一个 NVIDIA NeMo，NeMo 通过对话机器人的形式帮助企业快速检索数据。英伟达在 发布会上展示了基于英伟达数据（Event）和芯片行业信息形成的 Nvidia ChipNeMo，基于开源 Llama2 模型、利用英伟达 的专有数据，可以回答公司内部使用的 CTL 实验细节问题。

2）AI Workbench：是一款易于使用的开发者工具包，可用于管理 AI 模型定制和优化工作流。该工具包现已就绪，向 RTX 开发者全面推出。可帮助开发者快速创建、测试和自定义预训练的生成式 AI 模型和 LLM，而这只需要 PC 级的性能和内 存占用即可实现，开发者可通过 NVIDIA AI Workbench 简化对 Hugging Face、GitHub 和 NVIDIA NGC 等热门存储库的 访问，并且能够通过简化的用户界面轻松地再现和迁移项目，以及进行项目协作。

包括 SAP、Snowflake、ServiceNow、Cohesity、NetApp 在内的多家领先企业都正在采用 NVIDIA NIM 微服务。比如， SAP 和英伟达正在合作构建和交付 SAP Business AI，SAP 将利用 NVIDIA 生成式 AI 代工服务，针对特定场景，对 LLM 进行微调，并利用全新的 NVIDIA NIM 微服务来部署应用，SAP 和 NVIDIA 计划在 2024 年底前推出新的集成功能。Snowflake 正在使用 NeMo Retriever，充分利用企业数据来构建 AI 应用。ServiceNow 宣布，其正在使用 NIM 来更快、 更经济地开发和部署针对特定领域的全新助手和其它生成式 AI 应用。Cohesity、NetApp 等顶级数据平台正在使用 NVIDIA 微服务，帮助客户优化 RAG 管道，并将专有数据集成到生成式 AI 应用中。

Chat with RTX 全面更新，新模型将引入谷歌 Gemma、智谱 ChatGLM。Chat with RTX （或简称 ChatRTX）通过检索 增强生成和 NVIDIA TensorRT-LLM 加速技术，可为 RTX 助力的 Windows PC 带来运行于本地的生成式 AI 功能。用 户可以快速轻松地将本地文件作为数据集连接到开放式大语言模型 (例如 Mistral 或 Llama 2)，以便快速查询与上下文相关 的答案。除了目前对文本的支持外，ChatRTX 很快还会添加对语音、图像和新模型的支持。Whisper 是一种 AI 自动语音 语言识别系统，用户将能够通过它与 ChatRTX 进行交谈，在该功能推出后，ChatRTX 将能够“理解”口述语言并以文本 提供回应。在后续更新中，ChatRTX 还将添加对图片的支持，通过集成 OpenAI CLIP (Contrastive Language-Image Pre-training)，用户将能够使用单词、术语或短语对查找自己的图片。新模型方面，英伟达表示，除 Google 的 Gemma 以 外，后续更新还将添加对 ChatGLM 的支持。

二、 AI+智能车：与比亚迪扩大合作，DRIVE Thor 搭载 Blackwell 架构

比亚迪搭载 DRIVE Thor车机芯片，与英伟达合作范围扩大。NVIDIA DRIVE Thor 是专为汽车行业中日益重要的生成式AI 应用而打造的车载计算平台。作为 DRIVE Orin 的后续产品，DRIVE Thor 可提供丰富的座舱功能，以及安全可靠的高度自 动化驾驶和无人驾驶功能，并将所有功能整合至同一个集中式平台上。此前，理想汽车、极氪均已宣布将在 DRIVE Thor 上 构建其未来的汽车产品，本次 GTC 大会上，更多家头部电动汽车制造商宣布了其搭载 DRIVE Thor 的下一代 AI 车型： 

1）比亚迪：全球最大的电动汽车制造商比亚迪正在将与 NVIDIA 的长期协作从车端延伸到云端。除了在 DRIVE Thor 上构 建下一代电动车型外，比亚迪还计划将英伟达 AI 基础设施用于自动驾驶模型训练，并使用 NVIDIA Isaac 与 NVIDIA Omniverse 平台来开发用于虚拟工厂规划和零售配置器的工具与应用。

2）广汽埃安昊铂：新能源汽车品牌广汽埃安宣布旗下高端豪华品牌昊铂下一代电动汽车将采用 DRIVE Thor 平台，新车型 将于 2025 年开始量产，可实现 L4 级自动驾驶。昊铂目前的旗舰车型昊铂 GT搭载了 NVIDIA DRIVE Orin，该车型具备先 进的 L2+级高速自动驾驶能力。 

3）小鹏：宣布将把 NVIDIA DRIVE Thor 平台作为其下一代电动汽车的“AI 大脑”。这款新一代车载计算平台将助力该电动 汽车制造商自研的 XNGP 智能辅助驾驶系统，实现自动驾驶和泊车、驾乘人员监控等功能。

多家卡车、自动驾驶出租车和无人配送车也将支持 DRIVE Thor。Nuro 选择 DRIVE Thor 为其 Nuro Driver 提供助力。Plus 表示，其 L4 级解决方案 SuperDrive 的后续几代将依托 DRIVE Thor 运行。Waabi 正在利用 

DRIVE Thor 向市场推出首 个生成式 AI 赋能的自动驾驶卡车解决方案。文远知行正在与联想车计算合作，一同基于 DRIVE Thor 开发商用 L4 级自 动驾驶解决方案。此外，元戎启行表示，将于 2025 年采用 DRIVE Thor 适配其全新智能驾驶架构。DRIVE Thor预计最早将于明年开始量产，并且将使用具有生成式 AI 引擎等前沿功能的 NVIDIA Blackwell 架构。黄仁勋在 GTC 主题演讲中宣布，DRIVE Thor 将搭载专为 Transformer、LLM 和生成式 AI 工作负载而打造的全新 NVIDIA Blackwell 架 构。DRIVE Thor 的性能高达 1000 TFLOPS，有助于保证自动驾驶汽车的安全可靠。 

除此之外，英伟达多个合作伙伴还展示了他们基于英伟达技术的最新生成式AI 成果，值得关注的如：赛轮思的 CaLLM（汽 车领域 LLM）、Wayve 的 GAIA-1（自动驾驶生成式世界模型）、理想汽车的 DriveVLM（视觉大语言模型）等等。

三、 AI+医疗：推出 25 项微服务，BioNeMo 新基础模型赋能药物研发

完整报告下载：因篇幅限制，本报告完整版PDF已分享到报告研究所知识星球，扫描图片中二维码进圈即可下载！

（本文仅供参考，不代表我们的任何投资建议。如需使用相关信息，请参阅报告原文。）

全文完。感谢您的耐心阅读，请顺手点个"在看"吧~

业务咨询、商务合作：136 3162 3664（同微信）

我们是报告专业研究机构及知识服务平台。专注于分享国内外各类行业研究报告、热点专题报告、调研分析报告、白皮书、蓝皮书等。所有报告来源于国内外数百家知名研究机构，覆盖新能源汽车、数字经济、新材料、新能源、信息技术、先进制造、节能环保等新兴产业，并涉及医药生物、金融、互联网+、医疗大健康等众多行业及细分领域。目前报告已累积近50000+，并持续更新。

报告涵盖但不限于：

1、新能源汽车、数字经济、新材料、新能源、信息技术、先进制造、节能环保；

2、互联网、新媒体、短视频、抖音、快手、小红书；

3、元宇宙、5G、区块链、人工智能；

4、房地产、金融、券商、保险、私募；

5、零售、快消品、餐饮、教育、医疗、化妆品、旅游酒店；