python01
LLM 调用参数全景图:从 temperature 到工具调用,一次讲清
一张思维导图带你梳理六大类约 15 个 LLM 调用参数:采样随机性、长度终止、重复惩罚、格式结构、工具调用、请求级。附防幻觉真相与 Python 示例。
2026-09-01 21:32:0620 阅读
共 5 篇文章
一张思维导图带你梳理六大类约 15 个 LLM 调用参数:采样随机性、长度终止、重复惩罚、格式结构、工具调用、请求级。附防幻觉真相与 Python 示例。
我给博客 AI 助手建了一套 20 题金标准评测集。第一次跑分 12/20——每一个丢分的题目背后,都藏着一个真实缺陷:知识盲区、未查先拒、门控误伤、中文匹配漏配。这是一份带完整解题过程的错题本。
AI 助手能答对文章里的技术题,却不认识博主自己的象棋项目。从这次失败出发,补齐多轮记忆、反馈闭环、失败可恢复与可见化交互——记录一个 RAG Demo 跨过"最后一公里"的四段工程。
博客 AI 助手的第二次进化:把固定检索流水线升级为 ReAct 工具编排循环。五个只读工具的提示词工程、伪流式与 tool_calls 的工程取舍、防死循环保险丝,以及为什么用 200 行 Go 手写而不上 LangChain。
在 1.7G 内存的服务器上落地博客 AI 问答助手:为什么不用向量数据库、为什么 Go 写 RAG 完全可行、SSE 被 BFF 攒成一坨的伪流式排查;以及上线首日的检索进化——混合召回、时间纠偏、阈值截断与拒答联动。