统计书籍推荐之大样本理论

原文地址：http://blog.sina.com.cn/s/blog_8d0f6ec20101ckuk.html

大样本理论（渐近理论）是统计中数学用得比较多的一块，大家知道但凡数学书多不大好读。很多数学家或是数学出身的人写书时追求“简洁”、“漂亮”、“一般化”，而忽视了教学的需要。普通人学习的规律是从特殊到一般，从具体到抽象，而不少数学教材则是反过来写的，上来就是定义甲乙丙、性质一二三、定理ABC，偶尔出现几个例子帮助理解，读者就是谢天谢地了。（当然也有人喜欢这种风格）。这些年来，硬着头皮也读了一些这样的书，但总有不少内容有知其然而不知其所以然的感觉。人贵有自知之明，我属于普通青年，所以还是老老实实从入门的开始读。

1. Elements of Large-Sample Theory (Springer) by E.L. Lehmann

学统计的如果没听说过Lehmann，那得去面壁。Lehmann最出名的书是TSH和TPE，知道的这本书（姑且叫ELST吧）比较少。但Lehmann出品，必属精品。这本书是扎扎实实从最基本的地方开始打基础，特别适合以前学高等数学而非数学分析的人入门。这本书的问题是typo比较多，看的时候如果推导不过去千万别太怀疑是自己不行。PSU有些年用这本书做教材上课，组织学生整理了一份typo list，我保存了一份（2001年的），放在本文最后，免得大家去找（我查了一下，也找不到了）。

2. Large Sample Techniques for Statistics (Springer) by Jiming Jiang

Lehmann的书内容比较经典（或者说“传统”），蒋继明教授的这本书写了很多Lehmann书中没有的东西，引入了许多新的成果。不过对读者的要求稍微高了一点，该书第一、第二章罗列了很多实变、拓扑、（基于测度的）概率论中的东西，这几块都可以单独开一门大课，建议大家最好有点底子，不过这并不大影响继续读下去。我个人觉得这本书的好处在于其是从学生的角度出发来写的，可读性很强，讨论问题追根溯源，从最基本的想法开始讲起，证明严格且思路清晰，不仅讲了大样本的理论，而且告诉学生为什么要研究某些具体问题，是很好的学习材料。更可贵的是，他在某些地方讲了如何理解和品位理论推导的结果。我的博士论文指导教授告诉我，读书不要跟考试一样，写完一个证明之后就万事大吉了，应该回头想一想，这个证明说了件什么事情，能够怎么改进，以后能在哪些场合使用。这番话，以前我只是有个大概的概念，学完这本书，我相信自己开始有点领悟了。

这本书和上面Lehmann的书的习题都值得一做。说点题外话，我自己的感觉，国内很多书后面附的习题只是让大家练计算的，国外很多优秀教材书后的习题不仅能帮助学生掌握已经学习的东西，训练学生的思维，这些结论本身就可以作为定理使用。我曾跟人开玩笑说，有几本经典的数学和统计的书，我都恨不得能背下来。

接下来的书我没有细读过，但我知道品质不错，所以也列出来：

3. Asymptotic Theory of Statistics and Probability (Springer) Anirban DasGupta

类似于手册或百科全书，收集了很多有用的定理，几乎没有任何证明，但给出了证明的出处。可买一本放在案头当词典查阅。

4. Stochastic Limit Theory: An Introduction for Econometricicans (Oxford University Press) By James Davidson

面向计量经济学者的，写得很清楚，可惜没有习题。

5. Approximation Theorems of Mathematical Statistics (Wiley) By Robert J. Serfling

我在所有认识的统计学教授书架上都见到过的书之一。书很老（1980年前后出版），但是很经典，很受欢迎。估计有很多人写信给作者问第二版啥时候出版，我前些年还看见作者主页上说在准备第二版，现在再看，作者说没有出第二版的计划，估计是被问烦了。

6. Asymptotic Theory for Econometricians: Revised Edition (Academic Press) By Halbert White

计量经济的人很喜欢的一本书，不过我不大喜欢读，觉得太数学了，读起来有些干巴巴的。

7. A Course in Large Sample Theory (Chapman & Hall/CRC) By Thomas S. Ferguson

8. Asymptotic Statistics (Cambridge University Press) By A. W. van der Vaart

9. Weak Convergence and Empirical Processes: With Applications to Statistics (Springer) By Aad van der Vaart and Jon Wellner

7是UCLA的教材

8,9 比较数学，不大好读，不过时不时看到有人引用这几本书上的结论。

关于9，新水木网友wmfz有如下评论：“上的一门选修课，用的教材是van der vaart and Wellner的书。其实硬要把这本书列为“大样本”的书也可以，但这本书跟诸如serfling, lehmann此类的书差别大了去了，门槛也不是一个级别的。跟这本书有密切关联的是Billingsley的Convergence of Probability Measures。二者都讲了metric space里的收敛概念，但Billinsley考虑的对象都是measurable maps，该书第一版写于上世纪60年代。后来的人发现可测的限制是很强的，有很多简单的例子都出现了不可测的问题。van der vaart and Wellner书的第一部分考虑的就是（可能）不可测map的收敛问题。此外，van der vaart and Wellner在第一部分的基础上，在第二部分进一步讲了经验过程理论。从有限维空间的收敛（Euclidean space）到无限维空间的收敛（metric space），这中间需要大量的实分析、拓扑和泛函的知识。”我个人做的东西里面从未碰到过不可测的情况，对此，wmfz解释“我猜测是因为你处理的问题都是在R或R^k里的随机变量。R^k作为一个normed space拓扑结构是无所谓的，因为所有的norm都是等价的，而在无限维空间里（如果你要做非参和半参，你所面对的空间就是无限维空间了） the topology you choose matters。在van der vaart和wellner书的第一部分第一节里就有个简单的例子（经验分布函数）是不可测的with respect to sup norm in D[0,1]。”

补充：

10.Expansions and Asymptotics for Statistics (Chapman & Hall/CRC) By Christopher G. Small

翻过，看上去不错，不过没有细读。说是介绍了saddle point逼近和Laplace方法的联系，我看完了再发表评价吧。