nvidia近日推出了chat with rtx,这个应用相当于本地部署的chatgpt,由gpu提供算力支持。要求的话,需要至少8gb显存的rtx 30或40系列。
尽管chat with rtx并非英伟达自己研发的大语言模型(llm),但它背后所依靠的mistral和llama 2两款开源llm却颇具实力。用户可以根据喜好自行选择使用哪款llm。此外,chat with rtx还支持多种文件类型,包括txt、.pdf、.doc/.docx和.xml,方便用户上传本地文件进行聊天。
值得一提的是,chat with rtx还具有根据在线视频做回答的功能。用户只需将视频链接提供给chat with rtx,它便能迅速根据视频内容生成答案,为用户带来全新的聊天体验。
评论