• Ollama运行本地LLM大模型简单教程:大显存很重要

    Strike 发布于2024-05-27 17:39 / 关键字: LLM, Chat RTX, Ollama, RTX 4070 Ti SUPER 星曜

    近段时间大家在网上见到AI这个关键词的频率越来越高了,实际上AI在生产与创作领域已经有相当广泛的应用,视频和照片编辑、图片素材生成、视频超分、添加字幕以及翻译、视频会议、起草文档和PPT、数据分析和解读甚至编程等应用在AI助力下都可大幅提升效率。而对于个人用户来说,把这些工作用的软件工具都剔除后,最有用的应该就是LLM聊天机器人了,运用得当的话它可比传统搜索引擎强多了,可成为你的得力助手。

      详细阅读 

    分享
    | 收藏 | 评论(4)

  • NVIDIA发布新版本ChatRTX,添加中文LLM模型的支持

    Strike 发布于2024-05-06 11:01 / 关键字: ChatRTX, NVIDIA

    NVIDIA在2月推出了Chat with RTX的技术演示应用,可给用户体验一下本地的聊天机器人,当然了它用到了TensorRT-LLM和NVIDIA RTX加速技术,也是NVIDIA展示技术的一个方式,现在该应用正式改名为ChatRTX,增加了更多的功能,在新版本中它加入了对智谱AI的ChatGLM3-6B这个中文LLM的支持,同时还支持语音输入和图像搜索功能。

      详细阅读 

    分享
    | 收藏 | 评论