当前位置: 首页 > ML-算法
  • 机器学习实战Ch06 支持向量机SVM

    1. 概述 最基本的支持向量机(Support Vector Machine SVM)用于解决线性可分数据的二分类问题. 对于二维平面上的点,可以用一条线来分隔不同分类的点.如下图所示. 对于三维空间中的点,可以用一个面来分隔不同分类的点,对于四维及以上维度的点,用超平面来分隔不同分类的点.这里为便于叙述,将二维中的分隔直线,三维中的分隔 ...

    阅读全文
    作者:边城网事 | 分类:Machine Learning, ML-算法 | 阅读:66
  • 机器学习实战Ch05 多元线性回归

    1. 多元线性回归要解决的问题 如果有下面的训练数据,$x_1$和$x_2$是特征数据,$y$是数据标签,观察到$y$的取值要么为1,要么为0. $x_1$ $x_2$ $y$ 1.2 2.3 1 2.5 2.2 0 1.4 2.1 1 那么问题来了, 已知有上面的观察数据,如果有一组新的输入$x_1 = 1.5,x_2=2.4$,要如何预测$y$的值呢? 2. sigmoid函数 要解决上 ...

    阅读全文
    作者:边城网事 | 分类:Machine Learning, ML-算法, Python | 阅读:60
  • 机器学习实战04 朴素贝叶斯算法

    1. 概述 1.1. 数学基础知识 朴素贝叶斯算法主要是利用概率论中的贝叶斯公式来构建分类器给文档分类. 涉及到以下数学知识: 古典概型 条件概率 贝叶斯公式 古典概型就是计算概率的基本方法这里略去不表. 条件概率是指在已知A已经发生的情况下,求B的概率,可表示为 $P(B|A)$. 其计算公式为: $$P(B|A)=\frac{P(AB)}{P(A)}$ ...

    阅读全文
    作者:边城网事 | 分类:ML-算法, Python | 阅读:93
  • 机器学习实战03 – 决策树分类器

    机器学习 实战 决策树 代码实现, 以及利用graphviz和pygraphviz库画树形图,类似下面的图形 并且根据生成的决策树给数据分类. 涉及到 计算Shannon 熵, 设 $x_i$ 为训练数据中的一个分类, $S$ 表示训练数据集类别的样本空间, 则 $p(i)$表示类别$x_i$ 在样本空间 $S$中出现的频率 则, Shannon 熵H的计算公式为 $$H = ̵ ...

    阅读全文
    作者:边城网事 | 分类:Machine Learning, ML-算法 | 阅读:93
  • 机器学习实战02 — K-近邻算法识别手写数字

    按照书中内容写了一个手写数字识别demo. 尝试自己手写数字并拍了照片,将照片缩小成32*32,然后转成灰度图,再转成二值矩阵. 实际效果不太好,还需要优化. 先贴代码,日后改善. import pandas as pd import numpy as np import matplotlib.pyplot as plt import operator from os import listdir from PIL import Image de ...

    阅读全文
    作者:边城网事 | 分类:Machine Learning, ML-算法 | 阅读:74
  • K-近邻算法实现

    #!/usr/bin/env python3 import pandas as pd import numpy as np import matplotlib.pyplot as plt import operator def main(): group, labels = createTrainingDataSet() label = classify0([0, 0], group, labels, 3) print(label) def dating_test(): datingDataMat, datingLabels = file2matrix("datingT ...

    阅读全文
    作者:边城网事 | 分类:ML-算法 | 阅读:69