摘要 上一篇 介绍了如何在 Hugo 中使用 Reveal.js 进行 Slide 分享后，这段时间把自己历史的分享逐一迁移到博客上了。这个过程中，又发现了上次方案的一些问题，并做了很多细节的调整，整理如下： ...

Agent 使用指南 如何在真实世界中使用大模型？ 我说想开灯，大模型能帮我开灯吗？ 我们希望大模型能够直接的解决问题 这样的使用方法现在被人们称为： Agent 简单应用：如何修复一个 json 串？ 错误做法： 问大模型这个字符串哪里错了？ 写代码修复字符串 正确做法： “Do not change the specific content, fix the json, directly return the repaired JSON, without any explanation and dialogue.” 什么情况下我们需要 Agent ？ 不需要的情况： 操作简单，人可以快速解决； 规则清晰，程序可以按规则解决； 需要的情况： 解决步骤繁琐，对于人来说是重复劳动； 情况复杂，不容易梳理清楚对应的解决规则； 场景举例 Github 的 Copilot MacOS 的 Copilot 软件自动运维 Yi 6B 的自动安装助手 上网助手 $\dots$ 高级场景举例 自动软件开发（GPT Engineer） 自动会议纪要 自动任务记录 自动会议预定 自动消息通知 高级个人助理 一切自动化流程中需要人工参与的部分 解决复杂问题有哪些难点？ 解决复杂问题往往需要很多步骤； 而且正确的步骤往往也也需要探索； Agent 需要能够正确的了解自己当前解决问题的进度； 具体的步骤中，Agent 需要可以使用具体的工具； 传统 Agent 的定义 Agent = LLM + planning + memory + tools 如何打造一个联网的 LLM ？ [Thought] 针对用户输入，让 LLM 判断应该从哪个搜索引擎用什么关键词 获取结果； [Act] 获取搜索引擎在对应关键词下的搜索结果； [Obs] 具体返回的搜索结果； [Thought] 判断是否回答了用户的输入，如果没有，类似第一步，继续判断如何搜索； 如何打造 Yi 6B 的自动安装助手 如何打造 MacOS 的 Copilot 如何打造一个可以自动软件开发的 Agent 这件事需要产品做什么？ 找到适合的场景 设计场景下的合理交互 总结场景下的最佳实践(作为数据喂给模型就可以了) 扩展场景 大模型还没有出现 Killer APP 是因为还没有懂 Agent 的产品经理 ...

摘要 又开始折腾博客了。 ...

从拼多多市值超过阿里说起 昨天，拼多多的市值超过阿里了。 随后，看到了诸多的自媒体和身边资本圈的朋友开始热议，然后是前同事们的讨论，然后是马老师讲话又炸出一波人跟着转发着各种评论。 ...

RAG 技术 检索增强的生成系统（Retrieve Augment Generation）简称 RAG。 原理是在大语言模型的基础上，辅助检索技术，让大语言模型能够获得与用户问题相关的更多上下文信息，使得的大语言模型可以： 降低幻觉出现概率 适应垂直场景应用 弥补数据实时性不足 一个典型 RAG 系统的架构 RAG 系统的核心技术要素 文档导入 文档切分 文档向量化 向量数据库选型 检索算法 文档排序 Prompt 生成 $\dots$ 市面上大部分的关于 RAG 的介绍都是类似上面的逻辑进行的，然后就顺利的将 某一种 RAG 的方法 变成了 通用 RAG 的框架，从而让我们迷失了 RAG 的真正价值。 ...

大语言模型原理分享 什么是大语言模型？ 当我说了很多话之后，我马上要说 $\Box$ 数学公式描述 $w_1, w_2,\dots, w_{N}$ 是一个单词序列，这个序列的概率分布是： $$ p(w_{1},w_{2},\dots,w_{N})=\prod^N_{i=1}p(w_{i}|w_{1},w_{2},\dots,w_{i}) $$ 大语言模型能做什么？ 大模型能记住它看到过的一切信息。 大模型对于已经看到过的信息，有一定的泛化能力（有限度的推广）。 大模型能达到怎样的泛化能力？ 大模型可以涌现出智能吗？ ...