LLMs Connector
Agents-Flex 内置了丰富的对接大模型的网络协议,比如 HTTP、SSE、WS 等,其简单灵活的设计,使得开发者可以使用其轻易的对接各种大模型,包括 OpenAI、文心一言、星火大模型、通义千问等等。
Agents-Flex 内置了丰富的对接大模型的网络协议,比如 HTTP、SSE、WS 等,其简单灵活的设计,使得开发者可以使用其轻易的对接各种大模型,包括 OpenAI、文心一言、星火大模型、通义千问等等。
Agents-Flex 提供了丰富的大语言模型开发模板以及 Prompt Framework 的支持,比如 FEW-SHOT、CRISPE、BROKE、ICIO 等。另外,Prompt Template 我们也可以自定义自己独特的内容。
Agents-Flex 内置了非常灵活的 Function Calling 组件,包括本地方法的定义、解析、通过 LLMs 回调、并执行本地方法到结果,开发者几行代码就可以完成 Function Calling。
Agents-Flex 在文本处理方面、内置了 Loader、Parser、Splitter 三大组件,而每种组件又有多重不同的实现类,因此,我们可以轻易的加载网络数据、本地数据、数据库数据,以及多种数据类型。
Agents-Flex 的 Memory 模块分为 MessageMemory 和 ContextMemory,他们分别用于历史对话和 Chain 执行上下文记录,我们可以通过继承 Memory 去实现更加丰富的扩展。
Agents-Flex 内置了非常丰富的 Embedding 能力和扩展,我们可以通过去实现 Embedding 接口,来扩充自己的私有 Embedding 算法和支持 。
Agents-Flex 内置了多种向量数据库支持、当然,我们可以自己去实现 VectorStore 接口,来扩充自己的私有 VectorStore 服务 。
Agents-Flex 定义了 Agent 的抽象实现,开发者可以通过 Agents Chain 来实现更多的交互。
Agents-Flex 的 Chain 包含了同步顺序执行 Chain,异步执行 Chain 以及循环执行 Chain,帮助开发面对多种不同场景 。