周志华眼中的贝叶斯方法(转)
来源:互联网 发布:巨人网络球球大作战 编辑:程序博客网 时间:2024/04/27 07:57
对Bayesian一类的东西,除了 NB、AODE等少数几个接近 discriminative 的,我都不是很感冒。并不是看不上那些技法,有时其实还是相当欣赏那些精巧的设计。不感冒的原因,主要是觉得里面的唯心味道太重了。生长在新中国红旗下, 自认为是唯物论者,对唯心的东西有一种心理上的天然抵触。
唯心不能怪老贝,他做Bayes公式本来就是为了证明上帝的存在,没有唯心味道反倒怪了。Prior 的选取,如果是针对具体应用,倒也没什么,根据 domain knowledge 设计 prior 本来是 incorporate domain knowledge 的有效途径,是好事不是坏事。问题是,好多 Bayesian fans 都标榜自己做得多基础,根本就不 care 具体应用领域,或许其实本身就对应用没感觉(应用要做得好,一定要对应用有“感觉”)。普适的 prior 本不存在,不考虑具体 domain 就只能形而上地去折腾,然后挑几个数据发发文章,实际可能一点用没有。或许一些人本来的目的就是为了发文章而不是解决问题。
如果最终目标是预测,我总觉得,就算数据真是由某个 generative model 生成的,能够导致分类性能好的 model 也未必一定是那个 ground-truth model。就好象 manifold 一样,把 ground-truth manifold 扭曲一点说不定分类更好做,05年的那个TSMCB文章就想说这件事。
其实 Bayesian fans 自己也知道要改良。固定参数不好,就整个 Chinese Restaurant Process 搞非参。假设 Gaussian 太随意,就来个 dirichlet 考虑分布的分布。“分布的分布”还觉得味道不好,就再整个 hierarchical dirichlet 玩“分布的分布的分布”。要我说,你怎么知道该加几层啊?说不定要“分布的分布的分布的分布”?遇到 MJ 问他,说还没想到怎么办。我觉得大可以在分布方向上再开个 Restaurant,计算问题似乎也不大,应该可以 marginalize。一般数据上大概显不出好处来,找几个很复杂的数据 show 一把发个 NIPS 估计是可以的,因为这玩意儿很合 NIPS 的口味。不过我自己实在没兴趣做。有谁想玩玩可以跟我说一声。
把 discrimitive 的东西放进去,唯心成分应该会小一些。没和 EX 聊过这个问题,看他这两年走的路子,有可能是所见略同。
- 周志华眼中的贝叶斯方法(转)
- 程序员眼中的方法
- 我眼中的指针(转)
- 一个中国“知韩派”眼中的韩国(转)
- 别人眼中的Python [转]
- [转] 鱼眼中的海
- (转)我眼中的中美印日四国程序员的特点
- 我眼中的面向对象方法和结构化方法
- 初学者眼中的的Angularjs(一)
- 初学者眼中的的Angularjs(二)
- 初学者眼中的的Angularjs(三)
- 方法对了,你也能成为别人眼中的大神
- [转]在加拿大人眼中的中国人民志愿军
- 转:项目经理眼中优秀开发人员的标准
- (转)程序员眼中的UML (1)
- (转)程序员眼中的UML (2)
- 【转】我眼中的IT界offer。。。。。。
- 我眼中的希特勒(现代诗)
- 如何查看端口占用情况?
- 有关“结对编程”的一些结论
- IxEdit傻瓜式JavaScript开发工具(附下载、汉化版、视频教程)
- XML
- EC debug 方法
- 周志华眼中的贝叶斯方法(转)
- VC9中ATL的atlconv.h中A2W_CP和W2A_CP的Bug
- zz: 遍历 USB devcie,读取设备描述符 device descriptor
- 进程间通信概述与管道机制
- 异步加载JS文件
- 有关于美国palm springs的英文介绍
- 由酷6员工猝死想到的:IT民工 我该拿什么拯救你
- 键盘 Key Code 对照表
- XFire奇怪的问题