普及:AI Agent介绍、与大模型的区别

什么是AI Agent(代理)

  1. Agent是基于生成式AI模型的应用程序,能够通过观察世界并使用工具来执行任务,目标是自主完成任务,减少人为干预。
  2. Agent的核心架构包括模型(Model)、工具(Tools)和编排层(Orchestration Layer)。模型负责决策,工具用于与外部世界交互,编排层则管理信息处理、推理和决策的循环。

Agent与模型的区别

  1. 模型的知识仅限于其训练数据,而Agent通过工具扩展了其知识范围,能够访问实时信息和执行复杂任务。
  2. Agent具有会话历史管理能力,支持多轮推理和决策,而模型通常是单次推理。

工具(Tools)

  1. 工具是Agent与外部世界交互的桥梁,常见的工具类型包括扩展(Extensions)、函数(Functions)和数据存储(Data Stores)。
  2. 扩展(Extensions)允许Agent与API无缝交互,函数(Functions)则允许开发者在客户端执行API调用,数据存储(Data Stores)为Agent提供动态的、实时的数据访问。

认知架构(Cognitive Architecture)

  1. Agent通过认知架构进行推理、规划和决策。常见的推理框架包括ReAct、Chain-of-Thought(CoT)和Tree-of-Thoughts(ToT)。
  2. 这些框架帮助Agent在复杂任务中进行多步推理和决策。

增强模型性能的针对性学习

  1. 通过上下文学习(In-context Learning)、基于检索的上下文学习(Retrieval-based In-context Learning)和微调(Fine-tuning)等方法,模型可以更好地选择和使用工具。
  2. 这些方法帮助模型在特定任务中表现得更加精准和高效。

茄智AI-打通企业落地大模型应用最后一公里。

原文链接:https://mp.weixin.qq.com/s/vdiQmnepyUeA3rJvS7rgGw

Langflow中配置Milvus注意事项

若在Langflow中使用Milvus作为Vector DB,则在配置时注意以下几点,很容易出错。

1.字段名称与字段属性必须要与Milvus中定义的匹配。Primary Field Name,Text Field Name与Vector Field Name


如上图对应的Milvus字段定义如下所示(使用Attu工具)

注意:vector字段的类型与长度必须要与Embedding中返回的长度与格式一致,否则会存入失败;另外metric_type要与具体的检索数据格式匹配。

2.若Milvus开启了认证功能,则填写的Connection Password不能只填写Milvus的密码,而应该是username:password格式的组合(若Milvus账号与密码分别为root与Abc123#,则此处填写的值应该为 root:Abc123#)。

茄智AI介绍

茄智AI是一款专为B端市场设计的AI应用类产品,立足于私有大模型与私有知识库的强大基座,充当企业数字化转型的智能中枢,同时聚焦私有大模型的安全高效应用。有以下特点:

安全优先:专注于企业私有化部署,确保模型与数据的物理隔离,符合企业级数据安全与隐私保护的最高标准。

细粒度访问控制:基于角色与组织结构的访问授权机制(RBAC与ABAC),实现精准的权限管理,确保只有授权用户才能访问相关AI功能和数据,提升内部管理的安全性。

提示词安全策略:通过设定角色的提示词管理,配合知识库的授权,设定回答范围,有效避免数据越权行为,提升用户交互体验的安全性。

全面审计追踪:提供详尽的大模型使用日志与审计功能,帮助企业监控模型应用情况,及时发现并解决问题,确保合规使用。

灵活扩展与定制:平台设计具有高度灵活性,可根据企业特定需求进行定制化开发,支持多种AI应用场景的无缝接入。

联系:info@cloudjac.com。

更多:https://mp.weixin.qq.com/s/L-FGzZxcWwZX3hYBTSsbxQ