李宏毅机器学习课程12~~~半监督学习


Semi-supervised Learning


这里写图片描述

这里写图片描述

The distribution of the unlabeled data tell us something. Usually with some assumptions.


Semi-Supervised Generative Model


对比学习见 李宏毅机器学习课程4~~~分类:概率生成模型

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

EM算法思路来最大化似然函数。


Self-training


这里写图片描述
这里写图片描述

这里写图片描述

Self-training 是采用的Hard label, Semi-supervised learning是采用的soft label.

非黑即白的世界

这里写图片描述

定义新的目标函数,损失函数加上unlabel的熵,相当于加上正则化。


Smoothness Assumption


这里写图片描述

这里写图片描述

这里写图片描述

Deep Autoencoder 抽取Feature,然后进行聚类,这样才有可能将unlabel 图像聚类出好的结果。单纯的对原始图像的像素进行聚类,一般对图像来说,都不是一个好的聚类结果。

这里写图片描述

这里写图片描述

Graph-based 定性构造:相似度采用高斯径向基函数来度量。

这里写图片描述

这里写图片描述

Wij代表i与j的位置关系(距离)

这里写图片描述

Graph上的label的smoothness定量刻画的简写

这里写图片描述

目标函数上加上smoothness项。


Better Representation


这里写图片描述

这里写图片描述

找到本质核心因素用来作为表示。


参考文献


《Semi-Supervised Learning_Olivier Chapelle》

李宏毅机器学习课程4~~~分类:概率生成模型

http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML17.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/246754.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

计算机视觉、机器学习相关领域论文和源代码大集合--持续更新……

原文地址:http://blog.csdn.net/whaoXYSH/article/details/16886109 一、特征提取Feature Extraction: SIFT [1] [Demo program][SIFT Library] [VLFeat] PCA-SIFT [2] [Project] Affine-SIFT [3] [Project] SURF […

Tensor数据相关的运算、函数讲解及与numpy区别

Tensor tensorflow 中使用它来表示数据。可以看做多维数组或者list。 标量是张量,向量是张量,矩阵是张量,矩阵的矩阵是张量。 常用几种定义方法 1. variable变量,一般是可以被更更新或更改的数值,即在流图运行过程中…

Python程序设计—车万翔

程序设计入门—Python 对象和类型 五种基本对象类型 字符串 (string),简记为 str 使用 ’ ’ 或 ” ” 括起来的一系列字符 整数(integer),简记为 int 十进制:21,八进制&#xf…

【重大修改】动态时间规整(Dynamic Time Warping)

本文只是简单的介绍DTW算法的目的和实现。具体的DTW可以参考一下文献: 离散序列的一致性度量方法:动态时间规整(DTW) http://blog.csdn.net/liyuefeilong/article/details/45748399 动态时间归整/规整/弯曲(Dynamic time warpi…

python中的深拷贝与浅拷贝

浅拷贝的时候,修改原来的对象,深拷贝的对象不会发生改变。 对象的赋值 对象的赋值实际上是对象之间的引用:当创建一个对象,然后将这个对象赋值给另外一个变量的时候,python并没有拷贝这个对象,而只是拷贝了…

从机器学习谈起

很好的一篇文章,转载自博客园:http://www.cnblogs.com/subconscious/p/4107357.html 在本篇文章中,我将对机器学习做个概要的介绍。本文的目的是能让即便完全不了解机器学习的人也能了解机器学习,并且上手相关的实践。这篇文档也算…

核函数

由于下一篇要学机器学习的另外一种模型——核模型,里面涉及到核函数,所以先找了一下核函数的相关知识。 在知乎上看到了一些比较好的解答,详细参考:http://www.zhihu.com/question/24627666 首先举一个核函数把低维空间映射到高…

关于Matlab编程的思考(待续)

Matlab编程的规范化思考 1.并行化 2.释放内存 3.需要调参的变量太多,可考虑将变量都放到一个结构体里面。 4.find(y),就是要找到y中那些非零项的指引 5.代码运行出现问题的时候,在命令行输入why就可以得到答案 6.输入bench可以给电脑跑分。 7.hom…

拉普拉斯锐化图像

在图像增强中,平滑是为了消除图像中噪声的干扰,或者降低对比度,与之相反,有时为了强调图像的边缘和细节,需要对图像进行锐化,提高对比度。 图的边缘是指在局部不连续的特征。 简要介绍一下原理&#xff1…

运动捕捉数据的描述ASF/AMC

运动捕捉数据有多种格式:ASF/AMC,BVH,C3D等,这三个是比较常用的,一般的matlab实验用的是ASF/AMC,其次就是BVH。 ASF/AMC文件格式是Acclaim Games公司设计开发的,全称是Acclaim Skeleton File/A…

应用深度学习(台大陈蕴侬李宏毅) Part1

History of Deep Learning Big Data & GPU 端到端 Universality Theorem Core Factors for Applied Deep Learning 参考文献 http://v.qq.com/vplus/578e2d6f5e1fadc1/foldervideos/8n1000201qzzkx5 Deep Learning ◦Goodfellow, Bengio, and Courville, “Deep Learning…

世界坐标

世界坐标是最直观反映人体在世界坐标系下运动位置的变化信息,对分析运动行为有重要的作用。下面介绍如何根据ASF/AMC文件计算人体各个关节的世界坐标。 根据前面讲的ASF/AMC文件的格式,可以知道人体运动可以看做是通过根节点root的平移以及其他关节绕其父…

12bit灰度图像映射到8bit显示及python 实现

图像显示和打印面临的一个问题是:图像的亮度和对比度能否充分突出关键部分。这里所指的“关键部分”在 CT 里的例子有软组织、骨头、脑组织、肺、腹部等等。 技术问题 1、显示器往往只有 8-bit, 而数据有 12- 至 16-bits。 2、如果将数据的 min 和 max…

人工神经网络——径向基函数(RBF)神经网络

此博客排版不好,重新用Markdown写了一篇,同时附上了代码,戳这里 本文摘自:《模式识别与智能计算——matlab技术实现第三版》与《matlab神经网络43个案例分析》 【注】蓝色字体为自己的理解部分 径向基函数神经网络的优点&#xf…

基于RBF简单的matlab手写识别

GetFeature.m %将图像分为25块,计算每一块的空白部分所占比例 function dataGetFeature(I) [row,col]find(I0); %返回数字的上下左右的边界 II(min(row):max(row),min(col):max(col)); %截取手写数字图像,使其紧包含数字边界&…

李宏毅机器学习课程-Transfer Learning

深度学习 -> 强化学习 ->迁移学习(杨强教授报告) 李宏毅机器学习课程-Transfer Learning 迁移学习-吴恩达 freeze 待处理的 理解深层神经网络中的迁移学习及TensorFlow实现 Transfer Learning模式 Similar domain, different task…

matlab实现RBF的相关函数

摘自《matlab神经网络43个案例分析》 (1)newrb() 该函数可以用来设计一个近似径向基网络(approximate RBF)。调用格式为: [net,tr]newrb(P,T,GOAL,SPREAD,MN,DF) 其中P为Q组输入向量组成的R*Q位矩阵,T为Q组目标分类向量组成的S*Q维矩阵。GOAL为均方误…

李宏毅机器学习课程-Structured Learning

Simple structured learning framework for python pystruct-github Slides for explaining structured prediction and PyStruct -github 一、Structured Learning-Unifed Framework 之前的input and output 都是vectors Training阶段就是找一个F来评估&#xff…

MATLAB GPU编程基础

原文地址:http://blog.sina.com.cn/s/blog_863f5cf90102uyrh.html 从Matlab2013版本开始,matlab将可以直接调用gpu进行并行计算,而不再需要安装GPUmat库。这一改动的好处是原有的matlab内置函数都可以直接运用,只要数据格式是gpuA…

matlab之norm函数

简单点说就是用来计算范数的一个函数。 假设A是一个矩阵,那么norm(A)或者norm(A,2)计算的就是A的2范数;同理norm(A,1)计算的就是1范数了. 2范数:计算步骤是先计算A*A‘(这里A’代表转置,也就是原矩阵*(原…