理解玻尔兹曼机和深度学习.ppt
上传人:天马****23 上传时间:2024-09-11 格式:PPT 页数:38 大小:3.3MB 金币:10 举报 版权申诉
预览加载中,请您耐心等待几秒...

理解玻尔兹曼机和深度学习.ppt

理解玻尔兹曼机和深度学习.ppt

预览

免费试读已结束,剩余 28 页请下载文档后查看

10 金币

下载此文档

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

动机存在的解释我们的观点维数约简、信息抽象和去噪的“第一原则”存在的方法反思我们的基本思路例子:log-linear分布族与高斯分布关键技术问题度量概率分布(或密度)之间距离的“公理”度量概率分布(或密度)之间距离的“公理”(续1)度量概率分布(或密度)之间距离的“公理”(续2)是否存在同时满足上述所有公理的距离度量?Fisher-Rao度量Fisher-Rao距离(信息距离)Cramer-Rao下界与Fisher-Rao度量的似然一致性参数约简基本思路(Refined)实例:n布尔变量分布实例:n布尔变量分布(续1)实例:n布尔变量分布(续2)实例:n布尔变量分布(续3)玻尔兹曼机与n布尔变量分布23玻尔兹曼机与CIF原则(2)玻尔兹曼机与CIF原则(3)玻尔兹曼机与CIF原则(4)玻尔兹曼机与CIF原则(5)玻尔兹曼机与CIF原则(6)深度结构训练波尔兹曼机:-MaximumLikelihoodandContrastiveDivergence受限波尔兹曼机(RBM)-迭代映像算法(IP)任务:5个显式变量概率密度估计基于CIF的模型选择对BM的模型选择---无隐含节点BM模型选择---无隐含节点BM模型选择---有隐含节点BM模型选择---有隐含节点问题和回答