会员登录 立即注册

搜索

本地私人GPT CHAT WITH RTX

[复制链接]
崎山小鹿 发表于 2024-2-17 19:43:05 | 显示全部楼层 |阅读模式
崎山小鹿
2024-2-17 19:43:05 9920 0 看全部
英伟达推出了自家版本的ChatGPT

Chat With RTX 是一款演示应用程序,可让您个性化连接到您自己的内容(文档、笔记、视频或其他数据)的 GPT 大语言模型 (LLM)。利用检索增强生成 (RAG)、TensorRT-LLM和 RTX 加速,您可以查询自定义聊天机器人以快速获得上下文相关的答案。由于它全部在您的 Windows RTX PC 或工作站上本地运行,因此您将获得快速、安全的结果

Chat with RTX是一个技术演示,现已免费>>>下载<<<,可让用户使用自己的内容个性化聊天机器人,并由本地NVIDIA GeForce RTX 30 系列 GPU或更高版本(具有至少 8GB 视频随机存取存储器或 VRAM)加速

Chat with RTX 使用检索增强生成(RAG)、NVIDIA TensorRT-LLM软件和 NVIDIA RTX 加速,为本地 GeForce 支持的 Windows PC 带来生成式 AI 功能。用户可以快速、轻松地将 PC 上的本地文件作为数据集连接到 Mistral 或 Llama 2 等开源大型语言模型,从而能够快速查询上下文相关的答案。

用户只需键入查询即可,而无需搜索笔记或保存的内容。例如,人们可以问:“我的伴侣在拉斯维加斯时推荐的餐厅是什么?” Chat with RTX 将扫描用户指向的本地文件并提供带有上下文的答案。

该工具支持各种文件格式,包括.txt、.pdf、.doc/.docx 和.xml。将应用程序指向包含这些文件的文件夹,该工具将在几秒钟内将它们加载到其库中。

用户还可以包含来自 YouTube 视频和播放列表的信息。将视频 URL 添加到 Chat with RTX 允许用户将这些知识集成到他们的聊天机器人中以进行上下文查询。例如,根据最喜欢的影响者视频的内容询问旅行建议,或根据顶级教育资源获取快速教程和操作方法。


系统要求
平台        视窗
图形处理器        NVIDIA GeForce™ RTX 30 或 40 系列 GPU 或 NVIDIA RTX™ Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
内存        16GB 或更大
操作系统        视窗11
司机        535.11 或更高版本
微信截图_20240218094107.png

下载解压文件:

文件

文件


运行setup.exe

setup

setup


默认选择主程序chat with RTX 和 mistral 7B INT4,点击下一步,需要科学上网

setup2

setup2


安装完成

setup3

setup3


启动

启动

启动


启动成功
启动成功.png

会自动打开网页
http://127.0.0.1:28781/?__theme=dark

RTX

RTX


不愧是英伟达的产品,显卡的性能发挥得比较充分,8G显存用了6G多,CPU的内存的负担不重。
性能.png

后面将对他进行更详细的测试,关注我
天不生墨翟,万古如长夜!以墨运商,以商助墨。金双石科技长期招聘科技研发人才!微信:qishanxiaolu   电话:15876572365   公司:深圳市金双石科技有限公司
回复

使用道具 举报

  • 您可能感兴趣
您需要登录后才可以回帖 登录 | 立即注册 |

本版积分规则 返回列表

管理员给TA私信
以墨运商,以商助墨。

查看:9920 | 回复:0

  • 墨山游侠-惊变100天末日堡垒

    您的五星好评是我们持续更新和修复bug的动力!别忘订阅我们! 墨山游侠-末日堡垒 僵

    阅读:95|2025-09-01
  • 墨山游侠之奇异方块

    这种方块很奇怪,无法挖掘,无法摧毁,无法站立,但是可以用活塞推动。 这种方块

    阅读:178|2025-08-28
  • 墨山游侠-更好的聊天记录

    大家有没有想过把以前的聊天记录全部导出? 在 Minecraft 基岩版,原生机制并不会长期

    阅读:228|2025-08-25
  • 墨山空岛生存

    一树一箱开启你的空岛生存冒险吧,有墨山飞行靴-武器库的加持效果更好,如果找到NPC了

    阅读:262|2025-08-20
  • 墨山游侠-抓熊剑(熊孩子休走)

    今天给大家介绍墨山抓熊剑 家又被烧啦,让你试试这把抓熊剑 看你往哪里跑 挖是挖不

    阅读:297|2025-08-16
  • 墨山成就系统核心

    墨山成就核心包括墨山成就系统,墨山NPC以及任务系统,墨山财富系统。其中财富系统要

    阅读:293|2025-08-14
  • 墨山飞行靴-武器库

    墨山飞行靴-武器库是从墨山游侠工具合集中提取优质武器合集,包括盔甲和武器。 去掉了

    阅读:283|2025-08-14
  • 墨山游侠-嘉峪关

    根据嘉峪关的结构在我的世界里建了一座城,对城墙做了加厚。

    阅读:308|2025-08-11
  • 墨山游侠-网络游戏

    2025-07-31 11:29:0 终于成功的申请到了网易的网络游戏开发服务器 基岩版网络游戏是

    阅读:418|2025-08-06
  • 墨山游侠-墨子巨像

    2024年12月13日,一群墨学爱好者决定通过游戏来宣传墨学,我的世界无疑是一款最灵活开

    阅读:397|2025-08-03
金双石科技,软件开发20年,技术行业领先,您的满意,就是我们的目标,认真负责,开拓进取,让成品物超所值
关于我们
公司简介
发展历程
联系我们
本站站务
友情链接
新手指南
内容审核
商家合作
广告合作
商家入驻
新闻合作

手机APP

官方微博

官方微信

联系电话:15876572365 地址:深圳市宝安区西乡街道宝民二路宝民花园 ( 粤ICP备2021100124号-1 ) 邮箱:qishanxiaolu@qq.com
QQ|Powered by Discuz! X3.5 © 2001-2025 Discuz! Team.
快速回复 返回顶部 返回列表