本笔记依托于谷歌机器学习速成课程 会与前面机器学习笔记存在重复部分 部分文字与图片节选自Google机器学习速成课程讲义和Tensorflow官方API及对应社区或其他文档 文章会持续更新 课程地址： 机器学习术语 监督式学习是机器学习系统通过学习如何组合输入信息来对从未见过的数据做出有用的预测。 标签 在简单线性回归中，标签是我们要预测的事物，即 y 变量。标签可以是小麦未来的价格、图片中显示的动物品种、音频剪辑的含义或任何事物。 特征 在简单线性回归中，特征是输入变量，即 x 变量。简单的机器学习项目可能会使用单个特征，而比较复杂的机器学习项目可能会使用数百万个特征，写成如下形式： 样本 样本是指数据的特定实例：x。（我们采用粗体 x 表示它是一个矢量。）我们将样本分为以下两类：有标签样本和无标签样本 有标签样本同时包含特征以及标签 Python labeled examples:...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 同样在这篇笔记中，我们一样会谈到代价函数和梯度下降方法，不过之前提到的代价函数和梯度下降法适用于线性回归的问题，而在这里我们提到的代价函数和梯度下降是适用于分类方法的 首先我们来看一下代价函数 和之前代价函数的作用相同，这里的代价函数同样是来验证假设函数是否符合预期，也就是拟合参数的优化目标...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 在这一篇笔记中我想和大家探讨一下分类问题，前面的回归是倾向于求出real value，而这里的分类更加倾向于按照学习样本对未知数据进行分类，首先我们需要简述一下分类和回归在实际问题的中会有什么不同的表现 在这里我们引用一个判断肿瘤细胞是否为恶性肿瘤，0为否，1为是，上面是训练数据，如果我们使用线性回归来对数据进行拟合，当数据为原始的8个点时，拟合的结果为粉色直线，假设我们规定当可能性>0.5时就认为细胞为肿瘤细胞，<0.5则为正常细胞。通过拟合出的粉色直线可以看出好像还能完全符合，但是这里会带来一个问题，分类问题是要将结果指定在0...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 通过前面几篇笔记的记录，我们对机器学习中线性回归方法的一些基本算法有了一些新的了解，但是机器学习毕竟属于计算机领域，是要实际应用的。我们可以选择使用常见的高级语言C/C++ JAVA...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 这篇笔记中我想记录一下关于正规方程（Normal Equation）也叫标准方程法的相关知识 之前在梯度下降部分的笔记中提到过，求解函数的最小值有梯度下降方法和正规方程方法。梯度下降方法之前的笔记内容已经做了比较深入的探讨，今天主要来阐述一下正规方程的一些问题以及正规方程和梯度下降各自适用的情况 （咦，之前好像都没有写类似导语的东西0.0）...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 之前我们讨论的线性表示方法存在缺点，就是不够简洁以及无法表示多个特征值。因此我们引入多元线性回归的概念 在写正式的笔记之前，我们需要约定一些经常会用到的表示方法： （之前用m来表示样本的数量） 例如下面的数据 这样就将一行数据进行了向量化，或许现在还看不出来向量化的优势在哪里。 现在我们将之前的假设函数扩充到多参数形式这样就可以拥有多个特征量，设x0=1，假设函数就变成了，接下来我用矩阵的方式表示x和θ。。利用x和θ两个向量改写后的假设函数是，这里可以很简单的证明改写前和改写后是等价的（需要使用线性代数的知识）...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 上一篇笔记提到了可以利用图像来观察代价函数（Cost Funciton）的最小值，这是一个比较直观的方法，但是存在一个问题，让计算机罗列出所有的直线让人来进行选择是不合理的，我们想采用一种方法，让计算机自动根据图像和数据找到最小值，听起来似乎不太可能，这一方法就是这篇笔记要写的梯度下降（Gradient Descent）方法 梯度下降是一个用来求函数 最小值的算法，我们可以用梯度下降来求出带有两个参数的代价函数J( θ0,θ1)，甚至可以用梯度下降求出带n个参数的代价函数J( θ0,θ1…θn)的最小值 下面抄一下梯度下降的定义和一些说明 梯度下降法是一个最优化算法，通常也称为最速下降法。...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 其实这里所说的模型只是模型的一种表示方法，也可以说模型的写法 大概就是这个样子，重点还是放在下面的代价函数（Cost Function），有几种说法，一种叫损失函数，一种叫代价函数，我个人比较习惯用代价函数 首先何为代价函数 We can measure the accuracy of our hypothesis function by using a cost function 1 We can measure the accuracy of our hypothesis function by using a cost function 我们可以用代价函数来验证假设函数（hypothesis function）是否如预期，也就是说检验假设函数是否合理...
/*本课程笔记依托于Machine Learning——Andrew Ng(Stanford University)*/ 当我打算开始学机器学习的时候我就感觉自己给自己开了一个超级大的坑 人生为什么辣么艰难 先记一下什么是机器学习 Two definitions of Machine Learning are offered. Arthur Samuel described it as: "the field of study that gives computers the ability to learn without being explicitly programmed." This is an older, informal definition. Tom Mitchell provides a more modern definition: "A computer...