NVIDIA 的新聊天机器人在您的计算机上本地运行

NVIDIA 刚刚发布了 来自聊天机器人 这非常巧妙，因为它使聊天机器人可以访问您的文件和文档。 您可以向 Chat with RTX 提供精选的个人数据，并让它根据该信息创建摘要。 您还可以像任何聊天机器人一样向它提问，它会更深入地挖掘您的数据以寻求答案。

该公司表示，它允许用户“快速、轻松地将计算机上的本地文件作为数据集链接到大型开源语言模型，例如 Mistral 或 Llama 2”。 NVIDIA 提供了一个示例，用户向聊天机器人询问其合作伙伴在拉斯维加斯时推荐的餐厅。 该程序扫描本地文件以查找答案。 它支持各种文件格式，包括.txt、.pdf、.doc/.docx 和.xml。 该公司表示，它将“在几秒钟内”将相关文件上传到其数据集。

Chat with RTX 还集成了 YouTube 视频和播放列表。 您可以将视频 URL 添加到数据集，它将结合剪辑中的知识进行上下文查询。 NVIDIA 表示，当“根据最喜欢的影响者视频的内容”请求旅行推荐或搜索来自教育资源的教程和摘要时，这将非常有用。

边缘 使用聊天机器人后，他们留下了深刻的印象，并写道，他们可以认为它“对于记者或任何需要分析一组文件的人来说是一项有价值的数据研究”。

这似乎是朝着类似于在个人数据的上下文框架内工作的实际数字助理迈出的一大步。 大多数聊天机器人的数据都会发送到云端，但 RTX 聊天“允许用户在本地计算机上处​​理敏感数据，而无需与第三方共享或连接到互联网。” 所以比较安全 和 更具上下文意识。

有一些限制。 这是一个测试版产品，因此您应该预料到会有很多错误，尽管一旦用户开始发布错误报告等，NVIDIA 就应该开始消除它们。 这里也有一些严格的硬件限制。 与 RTX 聊天仅适用于配备 NVIDIA GeForce RTX 30 系列 GPU 或更高版本以及至少 8GB VRAM 的 Windows PC。

NVIDIA 最近确实展示了其 AI 实力，该公司刚刚推出了下一代 . 这主要归功于该公司的人工智能和数据中心部门。

本文包含附属链接； 如果您点击此链接并进行购买，我们可能会赚取佣金。