[PyTorch][chapter 5][李宏毅深度学习][Classification]

前言:

        这章节主要讲解常用的分类器原理.分类主要是要找到一个映射函数

         c=f(x) 比如垃圾邮件分类 :

         c=0, 垃圾邮件  c=1 正常邮件

      主要应用场景: 垃圾邮件分类,手写数字识别,金融信用评估.

       这里面简单了解一下,很少用

目录:

    1: Generative model

    2:    高斯分类器

    3:    高斯分类器跟其它模型关系


一 Generative model

     朴素贝叶斯分类器:

     以二分类为例:

       c_1,c_2  不同类别

       p(c_1),p(c_2): 不同类别出现的概率,先验概率

      p(x|c_1),p(x|c_2): 条件概率,不同类别中出现x的概率

  模型

          p(c_1 |x)=\frac{p(x)p(x|c_1)}{p(x|c_1)p(c_1)+p(x|c_2)p(c_2)}(贝叶斯联合分布推导)

    例子:

    有两个盒子,里面分别放绿球和红球

       

现在有个绿色的球,它来自哪个盒子

    p(c_1|g)=\frac{p(g|c_1)p(c_1)}{p(g)}

   其中p(g)=p(c_1)p(g|c_1)+p(c_2)p(g|c_2)

                 =\frac{2}{3}\frac{4}{5}+\frac{1}{3}\frac{2}{5}

     所以

      p(c_1|g)=\frac{4}{5}

      p(c_c|g)=1-\frac{4}{5}=\frac{1}{5}


二  高斯分类器

     2.1  模型

        假设不同类别服从不同的高斯分布

        输入x ,输出 对该类别的概率

       

       u : 均值

        \sum: 协方差矩阵  

     

a = np.cov(x,y)

   2.2  主要流程

             

       2.3 maximum likelihood 极大似然估计(计算u,\sum

                高斯分类器第一步要得到均值,和方差。均值,方差如何获取?

                我们通过极大似然估计 计算均值 和 协方差矩阵

               我们有训练样本 (x^1,c_1),(x^2,c_1),(x^3,c_1).....(x^N,c_1)

                我们要找到u,\sum使得下面概率最大

                 L(u,\sum)=f_{u,\sum}(x^1)=f_{u,\sum}(x^2)...f_{u,\sum}(x^N)

                 这个值就是样本均值和样本的协方差,假设有79个点

              

            2.3 高斯分类器问题   

           不同均值,方差的高斯分类器容易发生过拟合.

           为了降低过拟合,通常假设不同类别的方差一样,均值不同. 通过增加样本数降低方差 。如下图两类样本.

L(u_1,u_2,\sum)=f_{u_1,\sum}(x^1)f_{u_1,\sum}(x^2)...f_{u_2,\sum}(x^{80})...f_{u_2,\sum}(x^{179})


三  高斯分类器跟其它模型关系

1: 跟Sigmoid 关系

     设   z=ln \frac{p(x|c_1)p(c_1)}{p(x|c_2)p(c_2)}

     则

     p(c_1|x)=\frac{p(x|c_1)p(c_1)}{p(x|c_1)p(c_1)+p(x|c_2)p(c_2)}

                   =\frac{1}{1+\frac{p(x|c_2)p(c_2)}{p(x|c_1)p(c_1)}}

                   =\frac{1}{1+e^{-z}}

                   =\sigma (z)

 3.2  跟Linear 函数的关系

           z=ln\frac{p(x|c_1)}{p(x|c_2)}+ln\frac{p(c_1)}{p(c_2)}

                 =ln\frac{p(x|c_1)}{p(x|c_2)}+ln\frac{N_1}{N_2}

  当 \sum^2=\sum^1=\sum 时候,可以进一步简化

 z=(u_1-u_2)^T(\sum)^{-}x-\frac{1}{2}u_1^T\sum^{-}u_1+\frac{1}{2}u_2^T\sum^{-}u_2+ln\frac{N_1}{N_2}  

非x 的项可以看作常数b

x项前面可以看作w

 z=wx+b

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/204046.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

还记得当初自己为什么选择计算机?

还记得当初自己为什么选择计算机? 当初你问我为什么选择计算机,我笑着回答:“因为我梦想成为神奇的码农!我想像编织魔法一样编写程序,创造出炫酷的虚拟世界!”谁知道,我刚入门的那天&#xff0…

离线数仓构建案例一

数据采集 日志数据(文件)到Kafka 自己写个程序模拟一些用户的行为数据,这些数据存在一个文件夹中。 接着使用flume监控采集这些文件,然后发送给kafka中待消费。 1、flume采集配置文件 监控文件将数据发给kafka的flume配置文件…

STM32——定时器Timer

定时器工作原理 软件定时 缺点:不精确、占用 CPU 资源 void Delay500ms() //11.0592MHz {unsigned char i, j, k;_nop_();i 4;j 129;k 119;do{do{while (--k);} while (--j);} while (--i); } 使用精准的时基,通过硬件的方式,实现定时功…

Linux---访问NFS存储及自动挂载

本章主要介绍NFS客户端的使用 创建NFS服务器并通过NFS共享一个目录在客户端上访问NFS共享的目录自动挂载的配置和使用 访问NFS存储 前面介绍了本地存储,本章就来介绍如何使用网络上的存储设备。NFS即网络文件系统, 所实现的是 Linux 和 Linux 之间的共…

TypeScript中泛型函数

一.概览 此前,对泛型有了整体的概览,详见TypeScript中的泛型,后面的系列会详细地介绍TypeScript的泛型。此篇文章主要介绍泛型函数 二. 泛型函数 泛型是类型不明确的数据类型,在定义时,接收泛指的数据类型&#xff…

易点易动:颠覆固定资产用量管理,实现高效精准的企业固定资产管理

固定资产用量管理是企业日常运营中不可或缺的一环。然而,传统的人工管理方式面临着时间成本高、数据不准确、难以监控等问题。为了解决这些挑战,易点易动应运而生,它是一款先进的资产管理系统,能够帮助企业实现高效精准的固定资产…

【Java项目管理工具】Maven

Maven 文章目录 Maven一、简介二、安装和配置三、GAVP四、IDEA Maven Java Web工程五、插件、命令、生命周期六、依赖配置七、构建配置八、依赖传递与依赖冲突九、Maven工程继承和聚合关系9.1 工程继承关系9.2 工程聚合关系 十、Maven私服10.1 Nexus下载安装10.2 Nexus上的各种…

案例054:基于微信的追星小程序

文末获取源码 开发语言:Java 框架:SSM JDK版本:JDK1.8 数据库:mysql 5.7 开发软件:eclipse/myeclipse/idea Maven包:Maven3.5.4 小程序框架:uniapp 小程序开发软件:HBuilder X 小程序…

linux的权限741

741权限 在 Linux 中,文件和目录的权限由三组权限来定义,分别是所有者(Owner)、所属组(Group)和其他用户(Others)。每一组权限又分为读(Read)、写&#xff0…

c++函数模板STL详解

函数模板 函数模板语法 所谓函数模板,实际上是建立一个通用函数,其函数类型和形参类型不具体指定,用一个虚拟的类型来代表。这个通用函数就称为函数模板。 凡是函数体相同的函数都可以用这个模板来代替,不必定义多个函数&#xf…

Java安全之Commons Collections5

CC5分析 import org.apache.commons.collections.Transformer; import org.apache.commons.collections.functors.ChainedTransformer; import org.apache.commons.collections.functors.ConstantTransformer; import org.apache.commons.collections.functors.InvokerTransfo…

基于ssm绿色农产品推广应用网站论文

摘 要 21世纪的今天,随着社会的不断发展与进步,人们对于信息科学化的认识,已由低层次向高层次发展,由原来的感性认识向理性认识提高,管理工作的重要性已逐渐被人们所认识,科学化的管理,使信息存…

Cloudways和SiteGround哪个更好?

当提及WordPress托管服务提供商时,人们常常会拿Cloudways和SiteGround做比较。Cloudways作为备受欢迎的品牌,而SiteGround则是业界的老牌巨头。它们之间主要的区别在于服务范围。SiteGround提供广泛的托管服务,包括Web托管、WordPress托管、W…

Android 11.0 屏蔽保护听力对话框

Android 11.0 屏蔽保护听力对话框 最近收到客户反馈提到当设备音量调高到一定程度时会弹出提示保护听力的对话框,影响了操作使用,需要将弹出的提示保护听力对话框屏蔽掉,具体修改参照如下: /vendor/mediatek/proprietary/packag…

Flex布局 实现元素排列 4列变2列?

电脑版显示为一行有四列. 手机版显示为一行两列 thinkphp 的 html <section class"nutshell"style""><div class"grid"><div class"section-title center anim">{$typecont.enname}</div><div class"…

『VUE3后台—硅谷甄选』

一、准备前期 pnpm create vite

修改错误的代码和改正错误的人生一样重要

修改错误的代码和改正错误的人生一样重要 在学习和生活中&#xff0c;经常会遇到错误的代码。无论是语法错误、逻辑错误或是其他错误&#xff0c;这些错误都会导致程序无法正常运行。修改错误的代码是每一位开发者都要面对的重要任务&#xff0c;其实我们修改错误的人生又何尝不…

【【RGB LCD 彩条显示实验 ---1】】

RGB LCD 彩条显示实验 —1 TFT-LCD 的全称是 Thin Film Transistor-Liquid Crystal Display&#xff0c;即薄膜晶体管液晶显示屏&#xff0c;它显示的每个像素点都是由集成在液晶后面的薄膜晶体管独立驱动&#xff0c;因此 TFT-LCD 具有较高的响应速度以及较好的图像质量。 我…

一对一单聊

服务端 package 一对一用户;import java.awt.BorderLayout; import java.io.BufferedReader; import java.io.IOException; import java.io.InputStreamReader; import java.io.PrintWriter; import java.net.ServerSocket; import java.net.Socket; import java.util.Vector;…

19、XSS——HTTP协议安全

文章目录 一、Weak Session IDs(弱会话IDs)二、HTTP协议存在的安全问题三、HTTPS协议3.1 HTTP和HTTPS的区别3.2 SSL协议组成 一、Weak Session IDs(弱会话IDs) 当用户登录后&#xff0c;在服务器就会创建一个会话&#xff08;Session&#xff09;&#xff0c;叫做会话控制&…