在二分类的监督学习中，支持向量机、逻辑斯谛回归与最大熵模型、提升方法各自使用合页损失函数、逻辑斯谛损失函数、指数损失函数，分别写为：
这 3 种损失函数都是 0-1 损失函数的上界，具有相似的形状。(见下图，由代码生成）
import numpy as np import math import matplotlib.pyplot as plt plt.rcParams['font.sans-serif'] = ['SimHei'] plt.rcParams['axes.unicode_minus'] = False plt.figure(figsize=(10,8)) x = np.linspace(start=-1, stop=2, num=1001, dtype=np.float) logi = np.log(1 + np.exp(-x)) / math.log(2) boost = np.exp(-x) y_01 = x < 0 y_hinge = 1.0 - x y_hinge[y_hinge < 0] = 0 plt.plot(x, y_01, 'g-', mec='k', label='（0/1损失）0/1 Loss', lw=2) plt.plot(x, y_hinge, 'b-', mec='k', label='（合页损失）Hinge Loss', lw=2) plt.plot(x, boost, 'm--', mec='k', label='（指数损失）Adaboost Loss', lw=2) plt.plot(x, logi, 'r-', mec='k', label='（逻辑斯谛损失）Logistic Loss', lw=2) plt.grid(True, ls='--') plt.legend(loc='upper right',fontsize=15) plt.xlabel('函数间隔:$yf(x)$',fontsize=20) plt.title('损失函数',fontsize=20) plt.show() 往期精彩回顾 适合初学者入门人工智能的路线及资料下载机器学习及深度学习笔记等资料打印机器学习在线手册深度学习笔记专辑《统计学习方法》的代码复现专辑 AI基础下载机器学习的数学基础专辑获取一折本站知识星球优惠券，复制链接直接打开：
https://t.zsxq.com/y7uvZF6
本站qq群704220115。
加入微信群请扫码：
