AI

Function Calling

为什么要大模型连接外部世界

大模型两大缺陷：

1. 并非知晓一切
   1. 训练数据不可能什么都有。垂直、非公开数据必有欠缺
   2. 不知道最新信息，大模型的训练周期很长，且更新一次耗资巨大，还有越训越傻的风险。所以ta不可能实时训练。GPT-3.5的知识截止至2021年9年，GPT-4是2023年12月。
2. 没有【真逻辑】。它表现出的逻辑、推理，是训练文本的统计规律，而不是真正的逻辑，所以有幻觉。

所以，大模型需要连接真实世界，并对接真逻辑系统。

大模型应用开发基础

什么是AI：基于机器学习、神经网络的是AI，基于规则、搜索的不是AI。

通俗语言描述大模型工作原理：根据上文，猜测下一个词的概率。 训练和推理，是大模型工作的两个核心过程。 用人类比，训练就是学，推理就是用。

Prompt Engineering

高质量Prompt核心要点：具体、丰富、少歧义

Prompt典型构成

• **角色：**给AI定义一个最匹配任务的角色，比如：你是一位软件工程师、你是一位小学老师。马问题收窄，减小二义性。将重要信息放在开头或结尾。
• **指示：**对任务进行描述
• **上下文：**给出与任务相关的其它背景信息（尤其在多轮交互中）
• **例子：**必要时给出举例，对输出正确性有很大帮助
• **输入：**任务的输入信息；在提示词中明确的标识出输入
• **输出：**输出的格式描述，以便后续模块自动解析模型的输出结果，比如JSON、XML

LLM本身是无状态的。