什么是回退策略？此路不通换一条
主方案走不通时备选顶上，这套设计叫回退策略，换模型、换路径、换形态都是常见层次，太灵敏会误跳，安全气囊别老弹，妙处在回退策略。
AI百科
共3606篇文章AI百科聚合面向中文用户的 AI 工具教程、评测对比、场景方案、基础知识、产品快讯和资源合集，帮助用户快速了解工具怎么用、怎么选、适合什么场景。
最新发布
什么是超时控制？等多久算超时，别再混淆了
等多久算超时、超时后怎么办，这套规矩叫超时控制，分连接、阶段、总三层，线按业务容忍度画，掐断后保留部分结果才体面，分寸在超时控制。
什么是重试机制？失败后怎么再试
失败后再发一次的门道叫重试机制：只对瞬时故障下手、用指数退避换空间、配幂等防重复，无脑重试等于趁火打劫，分寸在重试机制。
近期文章
什么是重排窗口？精选后的最终名单
资料找回来一大堆，带进对话的只有几份，这个精选环节叫重排，入围名单所在的窗口就是重排窗口，答得准不准精度全压在重...
什么是思维链的长度控制？想多久算合适
动笔前先想多久，这门控制叫思维链的长度控制，想太短容易翻车、想太久拖垮节奏，匹配问题难度才聪明，分寸在思维链长度...
什么是逐步验证？边想边检查的方法
推理时每走一步就回头验一下，错了就地改，这套方法叫逐步验证，专治中间错一步、后面全歪的长链条，门道都在逐步验证。
什么是反思机制？让 AI 自己找错
先写一版再回头挑自己的毛病，这套自我找错的设计叫反思机制，能补逻辑漏洞、改不了知识盲区，底子好的越磨越精，全看反...
热门排行
更多文章
-
什么是解码阶段？逐字生成的过程
大模型的答案是一个字一个字蹦出来的，这个逐字推进的过程叫解码阶段。这篇讲清它和准备阶段的分工、每写一字都要回看前文的...
-
什么是首字时间？TTFT 这个指标
从按下发送到屏幕出现第一个字，这段时间叫首字时间，圈内叫TTFT。这篇拆开它的三笔开销：通读输入、排队调度与网络传输...
-
什么是每秒 token 数？TPOT 与吞吐
答案往外蹦的速度叫每秒 token 数，缩写 TPOT，衡量单个请求的输出节奏；吞吐是系统总运力，两个数分开记，才不...
-
什么是并发？一个服务同时接待多少人
同一个 AI 服务同一时刻能招待多少请求，这个规模叫并发，它受算力和调度双重约束，高峰期是秒回还是排队全看它，接待规...
-
什么是连续批处理？动态插队的调度
请求还没生成完，新来的就能插进来一起算，这种不等整批清空的调度叫连续批处理，它让算力席位不空等，提升的是系统吞吐，未...
-
什么是流式输出的缓冲？为什么偶尔卡一下
AI 答案流式往外蹦，偶尔卡一下多半是缓冲在攒批再发，攒批求的是顺滑，开头小卡最常见，长卡才可疑，关键在输出缓冲。
-
什么是排队机制？高峰期的先后规则
高峰期提问变慢，背后是排队机制在安排先后：超容量的请求按规则等位，先到先得之外还有短优先和付费优先，错峰提问最管用，...
