GPT应用_PrivateGPT
项目地址:https://github.com/imartinez/privateGPT
1 功能
1.1 整体功能,想解决什么问题
搭建完整的 RAG 系统,与 FastGPT
相比,界面比较简单。但是底层支持比较丰富,可用于知识库的完全本地部署,包含大模型和向量库。适用于保密级别比较高,或者完全不想使用收费模型和服务的情况。
1.2
当前解决了什么问题,哪些问题解决不了
PrivateGPT
提供了整体转换、入库、存储、匹配、合成答案,图形界面的解决方案,并提供图形界面用于检索操作。
RAG
所面对的问题,比如不够准确,多文档组合生成答案这些问题,需要进一步细化工具,似乎不能通过架构来解决。另外,由于多数本地部署的模型效果与
ChatGPT
差距比较大,这里只是看到了本地部署的架构和实现的可能性,部署后用户是否能接受其效果,还待验证。
1.3
提供哪些功能点,其中哪些是刚需
核心功能是通过简单的操作,实现对本地文件的检索和问答,功能相对单一。
1.4
用户使用难度,操作逻辑是否过于复杂
整体工具链使用了 poetry
构建,安装相对方便。但由于包含了深度学习库,肯定比一般项目复杂 ...
开源项目_大模型应用_awesome-chatgpt-prompts-zh
https://github.com/PlexPt/awesome-chatgpt-prompts-zh
1 功能
整体功能,想解决什么问题
ChatGPT 中文调教指南:提供一些常用的使用场景及对应的 Prompt
提示
当前解决了什么问题,哪些问题解决不了
针对想解决实际问题,但不知道如何描述,以及不知道 AIGC
可以解决什么问题的用户,进行很好的使用引导。
项目主要提供数据,无代码;程序员可以参考其中的一些提示,普通用户无法直接拿来使用。
提供哪些功能点,其中哪些是刚需
提供丰富的场景与提示的对应关系
用户使用难度,操作逻辑是否过于复杂
作者团队除了提供该应用的网页版,他还提供了 Windows, Mac, Linux,
Android,小程序入口。可通过试用和购买其附费服务使用。
2 技术栈
技术栈是什么
这里没有什么代码,主要是场景及相关的提示的数据
现有底层工具消化了哪些常用功能
源自项目:https://github.com/f/awesome-chatgpt-prompts (95.1K
star),可以看作是这个项目的中文版本,但比英 ...
GPT应用_chuanhu川虎
https://github.com/GaiZhenbiao/ChuanhuChatGPT
1 功能
1.1 整体功能,想解决什么问题
官网说明:为 ChatGPT 等多种 LLM
提供了一个轻快好用的 Web
图形界面和众多附加功能
1.2
当前解决了什么问题,哪些问题解决不了
支持多种大模型(也可接入本地模型),简单的本地文档提问,可以连网查询实时数据,提供常用提示词,支持多个对话,小而美的界面。
个人感觉:通用的功能都有,精细度一般。
1.3
提供哪些功能点,其中哪些是刚需
一般人可能主要使用 OPENAI
聊天为主,附加的实时搜索和与文件对话可能偶尔使用。
1.4
用户使用难度,操作逻辑是否过于复杂
基本属于简单配置一下,开箱即用,整体 Docker
也比较轻量,容易部署。配置时有一些细节,还需要注意。
2 技术栈
2.1 技术栈是什么:
代码主要由 Python 编写,前端由 Gradio 实现,中间层使用
Langchain,词向量使用 faiss
2.2
现有底层工具消化了哪些常用功能
使用 langchain 加强了对大模型的调用
使用 grad ...
GPT应用_FastGPT
1 功能
1.1 整体功能,想解决什么问题
官方说明:FastGPT 是一个基于 LLM
大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过
Flow 可视化进行工作流编排,从而实现复杂的问答场景!
个人体会:在不用编程的情况下,快速建立简单的本地知识库。
1.2
当前解决了什么问题,哪些问题解决不了
作者团队可能是觉得大模型本身太单薄了,希望通过结合其它工具,做一个中间层的方案,用大模型解决更多问题。
向下接入了多个大模型:GPT、Claude、Spark、ChatGLM 等;向上除了提供
很好用的 Web 工具,还提供了类似 OpenAI 的 API
供其它程序接入其功能,如:微信,飞书……;针对本地知识库,实现了数据的解析,存储,问答功能,并做了一些优化(评价本地知识库效果是一个非常复杂的问题,不在此讨论)。
提供了工作流
Flow,个人感觉对于想开箱即用的人来说有些复杂;对于深度使用者略显单薄。
计算 Embedding 以及答案的合成都需要连网使用。
1.3
提供哪些功能点,其中哪些是刚需
基本的与大模型聊天问答功能
本地知识库支持, ...
数据库_mongoDB
1 介绍
MongoDB 是一种 NoSQL
数据库,它将每个数据存储为一个文档,这里的文档类似于 JSON/BSON
对象,具体数据结构由键值(key/value)对组成。字段值可以包含其他文档,数组及文档数组。其数据结构非常松散,常用于存储比较复杂灵活的数据结构。
MongoDB
基于分布式文件存储,介于关系数据库和非关系数据库之间;是非关系数据库当中功能最丰富,最像关系数据库的。
2 基本概念
数据库:数据库用于保存一组相关数据,由集合组成;相当于关系数据库中的库。
集合:集合用来表示一个实体,如学生集合;集合由文档组成,相当于关系数据库中的表。
文档:文档表示一条记录,比如一位同学可以是一个文档,相当于关系数据库中的记录。
3 用法
123456$ docker pull mongo:5.0.18$ docker run --rm -d -p 27017:27017 -v /宿主机目录:/data/db \ -e MONGO_INITDB_ROOT_USERNAME=adminUser \ -e MONGO_INITDB_ROOT_PASSWORD=adminPassw ...
项目包管理工具_poetry
1 介绍
Poetry 是一个用于 Python
项目的包管理工具,它相对于传统的 pip 和 requirements.txt
的优势在于:使得项目依赖管理更加方便,且结合了更多新工具,还提供命令行进一步配置。
当在同一系统或在同一个 docker 中,使用多个 Python
程序时,可能由于工具链冲突无法同时安装,poetry
将每个项目所需要的资源都安装在它自己的虚拟环境中,很好地解决了冲突问题。
使用此方法,可以把库挂在系统之外,也不需要总是重打 docker image
了。
2 用法
2.1 配置文件
设置文件是:pyproject.toml,其中包含包及对应版本,可配置选项等等。
2.2 安装 python 包
Poetry 默认会将 Python
包安装在项目的虚拟环境中,而虚拟环境通常会创建在项目根目录的.venv
文件夹内。
查看安装信息:
1$ poetry env info
安装包
1$ peotry install
openstack插件
1 OpenStack
1.1 功能和原理
OpenStack
是一组可用于扩展和增强的云计算平台功能的组件或模块的集合。包括计算、存储、网络、认证、镜像等。具有高度的可扩展性、灵活性和定制性,广泛应用于公有云、私有云、混合云等各种场景。
OpenStack
可以在任何地方快速部署和管理基础架构,而无需依赖云服务提供商。OpenStack
模块被设计为可插拔的插件。
1.2 架构
用户层:用户可以通过各种方式访问 OpenStack 云环境,如 Web
界面、API、CLI 等。
应用层:应用层是 OpenStack
云环境中运行的应用程序和服务,例如虚拟机、存储、网络、数据库等。
控制层:控制层是 OpenStack
云环境中的核心组件,用于管理和协调应用层的资源。
1.3 我的理解
(不一定对)
OpenStack
提供了一个框架,来构建云服务,包含整个系统的组织架构,设计各个组件之间的通讯协议,整体的控制管理等等。
2 插件
2.1 功能
扩展功能通常被设计为可插拔的组件,允许用户根据其需求选择性地添加或拓展功能。
2.2 语言
OpenStack 生态系统中 Python ...
论文阅读_反思模型_Reflexion
123456英文名称: Reflexion: Language Agents with Verbal Reinforcement Learning中文名称: 反思:具有言语强化学习的语言智能体文章: http://arxiv.org/abs/2303.11366代码: https://github.com/noahshinn/reflexion作者: Noah Shinn (Northeastern University)日期: 2023-05-20 v1
1 读后感
论文提出了一种强化学习方法。传统的调优主要是通过训练调整网络参数,而文中提出的方法则是“分析”错误,形成反思的“文字”并保存,在之后的决策中,将其作为上下文以帮助决策。
它利用大模型及其周边方法构造了角色的行为、对结果的评价、当不能达成目标时,利用大模型来反思执行过程中具体哪一步出了问题,并将其作为反思存储。这样就构造了基于当前环境的短期存储,和基于反思的长期存储,结合二者使模型在未来做出更好的决策。
可将其视为把之前在棋类游戏中的强化学习扩展到了角色扮演游戏之中。之前的虚拟世界是棋盘,而现在的智能体置身于一个游戏世界 ...
GPT应用_ChatGPT-Next-Web
1 用后感
这个工具,我也是用了好长时间,就是感觉如果不点亮一颗星,自己就不是人了的那种。
一开始在国内用 ChatGPT
非常麻烦,就买了一个套壳的服务,他使用的界面就是
ChatGPT-Next-Web,我和朋友们都觉得这个界面是真心好看真心好用。
项目地址:https://github.com/Yidadaa/ChatGPT-Next-Web/
2 使用方法
1234567docker pull yidadaa/chatgpt-next-webdocker run -d -p 3000:3000 \ -e OPENAI_API_KEY=sk-xxxx \ -e CODE=页面访问密码 \ --net=host \ -e PROXY_URL=http://127.0.0.1:7890 \ yidadaa/chatgpt-next-web
image 大小只有 198M,非常完美的一键部署。
3 功能
3.1
整体功能,核心是想解决什么问题
通过它能很好地解决国内使用 ChatGPT
的问题;比如我买一个或者搭一个服务,我这边解决了科学上网和费用的问题;朋友、同 ...
GPT应用_WeChatMsg_下载微信聊天记录
1 方法
下载软件的 release 版本 exe
https://github.com/LC044/WeChatMsg
把 Windows 端微信更新到最新版本
将手机聊天记录迁移到电脑
手机微信 ->我的 ->设置 ->聊天 ->聊天记录迁移与备份
->迁移
如果电脑端使用虚拟机,注意千万用桥接网络,不要用
NAT,否则报错:不在同一网络无法迁移;另外,如果一次选择太多内容,也可能出现该报错,分几次迁移就好了。
使用 WeChatMsg 导出
运行 exe,第一次运行时,先解密
2 使用感受
尽管界面目前还不是很完美,但是可用。因为开源,我们可以选择其中的一部分来运行,可以拆开用,可以调。
其核心技术是从微信数据存储目录中提取信息,另外使用 Python Qt
实现了用户界面。
3 参考
解决微信手机与电脑在同一网络却无法互联传输的问题