跳到主内容

什么是逻辑回归?分类为什么用回归的名字

2026-10-06 发布 来源:我告诉你AI导航 阅读

邮箱把一封邮件丢进垃圾箱,背后是 AI 在做一次概率判断:这封信属于垃圾邮件的可能性有多高。逻辑回归做的就是这件事,它输出一个 0 到 1 之间的数,代表属于某一类的可能性。名字里带着「回归」,干的却是分类的活,这个错位让很多人第一...

邮箱把一封邮件丢进垃圾箱,背后是 AI 在做一次概率判断:这封信属于垃圾邮件的可能性有多高。逻辑回归做的就是这件事,它输出一个 0 到 1 之间的数,代表属于某一类的可能性。名字里带着「回归」,干的却是分类的活,这个错位让很多人第一次接触时感到别扭。把它的输出、阈值、系数和失效条件讲清楚,比背下公式有用得多,也能解释为什么在深度学习时代它依然是分类任务最常见的基线。

一条直线被压进 0 到 1 之间

线性回归算出的是一个可以任意大、任意小的分数,这个分数没有上界也没有下界,没法直接当概率用。逻辑回归在它外面套了一个 S 形函数,把整条实数轴映射到 0 到 1:分数很大时输出贴近 1,很小时贴近 0,中间一段近似线性。这个变换保住了排序,分数越高概率越大,同时给出一个可以解释为「可能性」的数值。要注意的是,这个数值是否真的等于概率,取决于模型有没有校准好;很多情况下它只是一个相对高低的信号,而非严格的概率估计。

三个使用层次,代价各不相同

同一个模型,可以用在三个不同的深度上,越往后对使用者的要求越高:

用法得到什么主要代价典型失效
只要类别一个硬标签,直接可用丢掉置信度信息阈值定错时,错判集中在一类
要概率可排序、可分层、可加权需要额外做校准样本不均衡时概率系统性偏高或偏低
要解释每个特征的贡献方向特征相关时方向会失真把系数直接当因果结论

很多团队只用第一层,拿到标签就结束,结果在需要「按风险排序」时发现模型给不出可用的次序。第二层和第三层的价值,往往比多一个百分点的准确率更大,但它们对使用者的要求也更高:得知道概率有没有校准、系数在什么条件下才能读。

阈值是业务决定,不是模型的一部分

模型输出 0.7,判定为正类还是负类,取决于你把线画在哪里。默认取 0.5 只是习惯,它隐含了一个假设:把正类误判成负类,和把负类误判成正类,代价差不多。现实中这个假设经常不成立。垃圾邮件过滤里,漏掉一封正常邮件比放过一封垃圾邮件更让人恼火;在交易欺诈拦截里,漏掉一笔的代价又远高于多拦一笔。同一个模型,换个阈值就换了一种取舍,这个取舍应该由业务方定,不该由默认参数决定。

系数的方向好读,幅度难读

逻辑回归的系数作用在「几率」上,不直接作用在概率上。系数为正,说明这个特征变大时,属于正类的几率上升;为负则下降。方向判断很直观,幅度就没那么好读:几率翻倍对应的概率变化,取决于起点在哪,起点在中间时翻倍的变化量,和起点接近 0 时完全不同。所以「系数是 0.8,概率就涨 0.8」这种读法是错的。真要解释幅度,通常换算成几率比,或者固定其他特征,做几组模拟对比看实际差多少。

它在哪些场景会失效

特征和标签的关系如果本身是非线性的,逻辑回归只能用一条直线去切,切不动就欠拟合,这时需要人工构造交叉项或者换模型。样本极度不均衡时,模型倾向于把所有样本判成多数类,准确率看着很高,实际一个正类都没抓到,这时候该看召回率和混淆矩阵,而不是准确率。特征之间高度相关会让系数不稳定,符号甚至可能反直觉。还有一处容易被忽略:概率校准。逻辑回归在训练分布内通常校准得不错,但数据分布一旦漂移,输出的 0.9 可能远高于实际发生率,拿它做风险定价就会出问题,相关做法见模型校准。

为什么它还是第一站

训练快、输出可解释、对特征尺度不敏感、样本需求相对小,这几条加起来,使它成为任何分类任务都值得先跑一遍的基线。更重要的价值是参照系:后面的复杂模型如果提升有限,那点提升是否值得维护成本,就有据可依。它也是理解更复杂模型的台阶,神经网络最后一层的 Softmax,本质上就是把二分类的这套思路推广到多类,输出同样是一组加起来等于 1 的概率。

速查:逻辑回归的四个判断点

  • 输出是概率,不是类别,类别由阈值切出来
  • 0.5 只是习惯,阈值要按误判代价调
  • 系数读方向可靠,读幅度要先换算几率比
  • 不均衡数据别看准确率,看召回与混淆矩阵

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]