机器学习与优化关系、凸集、凸函数简介_机器学习教程

机器学习与优化关系、凸集、凸函数简介_机器学习教程_02

                                                                                                                                      ---蔡佳

绪论---学科概述

最优化是从所有可能的方案中选择最合理的一种方案,以达到最佳目标的科学。

达到最佳目标的方案是最优方案,寻找最优方案的方法---最优化方法(算法)。

这种方法的数学理论即为最优化理论。

是运筹学的方法论之一,是其重要组成部分。

机器学习与优化关系、凸集、凸函数简介_机器学习教程_03

机器学习与优化关系、凸集、凸函数简介_机器学习_04

机器学习与优化关系、凸集、凸函数简介_机器学习教程_05

机器学习与优化关系、凸集、凸函数简介_机器学习_06

机器学习与优化关系、凸集、凸函数简介_机器学习_07

基本概念:

在一些例子中,如选址问题等,有的目标函数和约束函数都是线性的,称之为线性规划问题,而有的模型中含有非线性函数,称之为非线性规划。

在线性与非线性规划中,满足约束条件的点称为可行点,全体可行点组成的集合称为可行集或可行域。如果一个问题的可行域是整个空间,则称此问题为无约束问题。

最优化问题可写成如下形式:

机器学习与优化关系、凸集、凸函数简介_机器学习教程_08

机器学习与优化关系、凸集、凸函数简介_机器学习_09

机器学习与优化关系、凸集、凸函数简介_机器学习教程_10

凸集与凸函数:

机器学习与优化关系、凸集、凸函数简介_机器学习_11

机器学习与优化关系、凸集、凸函数简介_机器学习教程_12

机器学习与优化关系、凸集、凸函数简介_机器学习教程_13

机器学习与优化关系、凸集、凸函数简介_机器学习_14

机器学习与优化关系、凸集、凸函数简介_机器学习_15

机器学习与优化关系、凸集、凸函数简介_机器学习教程_16

机器学习与优化关系、凸集、凸函数简介_机器学习_17

机器学习与优化关系、凸集、凸函数简介_机器学习教程_18

机器学习与优化关系、凸集、凸函数简介_机器学习教程_19

机器学习与优化关系、凸集、凸函数简介_机器学习教程_20

机器学习与优化关系、凸集、凸函数简介_机器学习_21

机器学习与优化关系、凸集、凸函数简介_机器学习教程_22

机器学习与优化关系、凸集、凸函数简介_机器学习_23

由上可知,任何有界凸集中任一点都可表成极点的凸组合。

机器学习与优化关系、凸集、凸函数简介_机器学习教程_24

机器学习与优化关系、凸集、凸函数简介_机器学习_25

机器学习与优化关系、凸集、凸函数简介_机器学习_26

机器学习与优化关系、凸集、凸函数简介_机器学习_27

机器学习与优化关系、凸集、凸函数简介_机器学习教程_28

机器学习与优化关系、凸集、凸函数简介_机器学习_29

机器学习与优化关系、凸集、凸函数简介_机器学习_30

机器学习与优化关系、凸集、凸函数简介_机器学习教程_31

机器学习与优化关系、凸集、凸函数简介_机器学习教程_32

机器学习与优化关系、凸集、凸函数简介_机器学习教程_33

机器学习与优化关系、凸集、凸函数简介_机器学习_34

机器学习与优化关系、凸集、凸函数简介_机器学习教程_35

机器学习与优化关系、凸集、凸函数简介_机器学习教程_36

机器学习与优化关系、凸集、凸函数简介_机器学习_37

机器学习与优化关系、凸集、凸函数简介_机器学习_38

 

更多文章请关注《万象专栏》