统计计算
前言
I 统计计算导引
1
统计计算介绍
1.1
统计计算的范畴
1.2
算法和计算机语言
1.3
优秀程序设计要旨
1.4
内容提要
2
误差
2.1
误差的种类
2.2
数值误差
2.2.1
计算机二进制
2.2.2
计算误差
2.2.3
截断误差
2.3
计算复杂度
2.4
随机误差的度量
2.5
问题的适定性与算法稳定性
习题
3
概括统计量
3.1
总体和样本
3.2
样本的描述统计量
3.2.1
位置特征量
3.2.2
分散程度(变异性)特征量
3.2.3
与分布形状有关的特征量
3.2.4
相关系数
习题
4
统计图形
4.1
直方图
4.2
核密度估计
4.3
盒形图
4.4
茎叶图
4.5
正态QQ图和正态概率图
4.6
散点图和曲线图
4.7
三维图
习题
II 随机数生成
5
均匀分布随机数生成
5.1
线性同余发生器(LCG)
5.1.1
同余
5.1.2
线性同余发生器
5.1.3
混合同余发生器(
*
)
5.1.4
乘同余法(
*
)
5.1.5
素数模乘同余法(
*
)
5.2
FSR发生器(
*
)
5.3
组合发生器法(
*
)
5.4
随机数的检验(
*
)
习题
6
非均匀随机数生成
6.1
逆变换法
6.2
用逆变换法生成离散型随机数
6.3
用逆变换法生成连续型随机数
6.4
利用变换生成随机数
6.5
舍选法
6.6
复合法
习题
7
随机向量和随机过程的随机数
7.1
条件分布法
7.1.1
多项分布随机数
7.2
多元正态分布模拟
7.3
泊松过程模拟
7.4
高斯过程模拟
7.4.1
布朗运动模拟
7.4.2
抽样点较少情形
7.4.3
平稳高斯列
7.4.4
非平稳高斯列模拟
7.5
ARMA模型模拟(
*
)
7.5.1
AR模型
7.5.2
MA模型
7.5.3
ARMA模型
习题
8
R中的随机数函数(
*
)
8.1
R语言中与分布有关的函数
8.2
分布列表
8.3
R随机数发生器
8.4
R中使用的若干个随机数发生器的算法说明
8.4.1
Wichmann-Hill发生器
8.4.2
Marsaglia-Multicarry
8.4.3
Super-Duper
8.4.4
Mersenne-Twister
8.4.5
L’Ecuyer-CMRG与并行计算
9
Julia语言中的随机数发生器与分布类介绍(
*
)
9.1
与分布有关的函数
9.2
支持的分布
9.2.1
连续型一元分布
9.2.2
离散型一元分布
9.2.3
截断分布
9.2.4
多元分布
9.2.5
随机矩阵分布
9.2.6
混合分布
III 随机模拟
10
随机模拟介绍
11
随机模拟积分
11.1
随机投点法
11.2
平均值法
11.3
随机模拟估计误差的评估与样本量计算
11.4
高维定积分
习题
12
重要抽样法
12.1
标准化重要抽样法
12.2
带有舍选控制的重要抽样法(
*
)
习题
13
分层抽样法
习题
14
方差缩减技术
14.1
控制变量法
14.2
对立变量法
14.3
条件期望法
14.4
随机数复用
习题
15
随机服务系统模拟
15.1
概述
15.2
用R的simmer包进行随机服务系统模拟(
*
)
15.3
用Julia语言的SimJulia包进行离散事件模拟(
*
)
15.4
附录:M/M/1系统事件模拟算法的R语言程序(
*
)
15.5
附录:M/M/1系统事件模拟算法的Julia程序(
*
)
习题
16
统计研究与随机模拟
习题
习题1
习题2
习题3
习题4
习题5
17
Bootstrap方法(
*
)
17.1
标准误差
17.2
Bootstrap方法的引入
17.3
Bootstrap偏差校正
17.4
Bootstrap置信区间
习题
18
置换检验(
*
)
18.1
介绍
18.2
肿瘤大小比较案例
18.3
独立性检验
19
MCMC
19.1
马氏链和MCMC介绍
19.2
Metropolis-Hasting抽样
19.2.1
连续型分布的MH抽样法
19.2.2
随机游动MH算法
19.3
Gibbs抽样
19.4
MCMC计算软件(
*
)
习题
20
序贯重要抽样(
*
)
20.1
非线性滤波平滑
20.2
再抽样
20.2.1
简单随机再抽样
20.2.2
剩余再抽样
20.2.3
舍选控制再抽样
20.2.4
部分舍选控制再抽样
习题
IV 近似计算
21
函数逼近
21.1
多项式逼近
21.2
有理函数与连分式逼近
21.3
逼近技巧
习题
22
插值
22.1
多项式插值
22.2
Lagrange插值法
22.3
牛顿差商公式(
*
)
22.4
样条插值介绍(
*
)
习题
23
数值积分
23.1
数值积分的用途
23.2
一维数值积分
23.2.1
计算达布和的积分方法
23.2.2
梯形法则
23.2.3
辛普森(Simpson)法则(
*
)
23.2.4
牛顿-柯蒂斯(Newton-Cotes公式)(
*
)
23.2.5
数值积分的代数精度(
*
)
23.2.6
高斯-勒让德(Gauss-Legendre)积分公式(
*
)
23.2.7
变步长积分(
*
)
23.3
多维数值积分(
*
)
习题
24
数值微分
24.1
三种差商方法
24.2
复数差商(
*
)
24.3
自动微分(
*
)
24.4
附录:误差阶的推导(
*
)
24.5
附录:Julia程序(
*
)
24.5.1
三种差商公式的计算程序和误差演示
24.5.2
借助于复数自变量计算
24.5.3
自动微分
习题
25
R中的近似计算函数(
*
)
25.1
多项式
25.2
插值
25.3
样条插值
25.4
积分
25.5
Gauss-Legendre积分
25.6
微分
26
Julia中的近似计算函数(
*
)
V 矩阵计算
27
统计计算中的矩阵计算
27.1
矩阵计算的应用例子
27.2
矩阵记号与特殊矩阵
27.3
矩阵微分
27.4
矩阵期望
习题
28
线性方程组求解与LU分解
28.1
三角形线性方程组求解
28.2
高斯消元法
28.3
LU分解
28.4
Cholesky分解
28.5
线性方程组求解的稳定性(
*
)
28.6
附录:一些Julia程序(
*
)
习题
29
特殊线性方程组求解(
*
)
29.1
带状矩阵
29.2
Toeplitz矩阵
29.3
稀疏系数矩阵方程组求解
29.4
用迭代法求解线性方程组
习题
30
正交三角分解
30.1
Gram-Schmidt正交化方法
30.2
Householder变换(
*
)
30.3
Givens变换(
*
)
习题
31
特征值和奇异值
31.1
特征值和奇异值定义
31.2
对称阵特征值分解的Jacobi算法(
*
)
31.3
用QR分解方法求对称矩阵特征值分解(
*
)
31.4
奇异值分解的计算(
*
)
习题
32
广义逆矩阵
32.1
广义逆的定义和性质
32.2
叉积阵(
*
)
32.3
正交投影(
*
)
32.4
线性方程组通解(
*
)
32.5
最小二乘问题通解
习题
33
R中的矩阵计算(
*
)
33.1
Base包的矩阵功能
33.2
Matrix包的矩阵功能
33.3
其它包的矩阵功能
34
Julia中的矩阵计算功能(
*
)
34.1
基本矩阵运算
34.2
用Givens变换作QR分解示例
VI 最优化与方程求根
35
最优化问题
35.1
优化问题的类型
35.2
统计计算与最优化
35.2.1
回归模型的估计与最优化
35.2.2
最大似然估计与最优化
35.2.3
将统计问题表述为最优化问题的缺点
35.3
一元函数的极值
35.4
凸函数
35.4.1
凸集
35.4.2
凸函数
35.4.3
凸规划
35.5
无约束极值点的条件
35.6
约束极值点的条件
35.7
迭代收敛
35.8
R软件中的优化和方程求根功能(
*
)
35.9
Julia软件中的优化和方程求根功能(
*
)
35.10
附录:证明补充(
*
)
习题
36
一维搜索与求根
36.1
二分法求根
36.2
牛顿法
36.3
一维搜索的区间
36.4
0.618法(
*
)
36.5
抛物线法(
*
)
36.6
Brent法求根(
*
)
36.7
沃尔夫准则
36.8
附录:二分法求根的程序(
*
)
36.9
附录:求最小值所在区间的程序(
*
)
36.10
附录:0.618法的程序(
*
)
36.11
附录:抛物线法的程序(
*
)
36.12
附录:Brent法程序(
*
)
习题
37
无约束优化方法
37.1
分块松弛法
37.2
梯度法
37.2.1
最速下降法
37.2.2
梯度下降法
37.2.3
随机梯度下降法
37.2.4
共轭梯度法(
*
)
37.2.5
动量方法(
*
)
37.2.6
超梯度下降方法(
*
)
37.3
牛顿法
37.3.1
阻尼牛顿法
37.4
拟牛顿法
37.4.1
BFGS拟牛顿法
37.5
Nelder-Mead方法
37.6
模拟退火算法(
*
)
37.7
遗传算法(
*
)
习题
38
约束优化方法
38.1
约束的化简
38.2
线性规划的单纯形法介绍
38.3
仅含线性等式约束的情形(
*
)
38.4
线性约束最优化方法(
*
)
38.4.1
投影梯度法
38.4.2
简约梯度法
38.4.3
有效集方法
38.5
二次规划问题(
*
)
38.5.1
仅含等式约束的二次规划问题
38.5.2
含有不等式约束的二次规划问题
38.6
非线性约束优化问题
38.6.1
外点罚函数法
38.6.2
内点罚函数法
38.6.3
序列二次规划法(SQP)(
*
)
38.7
用Julia的JuMP包进行优化(
*
)
习题
39
统计计算中的优化问题
39.1
最大似然估计
39.1.1
得分法
39.1.2
精简最大似然估计
39.2
非线性回归
39.3
EM算法
习题
Appendix
A
R软件基础(
*
)
A.1
向量
A.2
向量运算
A.3
矩阵
A.4
数据框
A.5
分支和循环
A.6
函数
A.7
简单输入输出
A.8
RStudio介绍
习题
B
Julia语言入门(
*
)
B.1
Julia的安装和运行
B.1.1
Julia程序语言介绍
B.1.2
Julia软件安装和运行
B.1.3
Julia的其它运行方式
B.1.4
附加软件包安装和调用
B.2
Julia的基本数据和相应运算
B.2.1
整数与浮点数
B.2.2
四则运算
B.2.3
整数的四则运算
B.2.4
字符串
B.2.5
字符串连接
B.3
变量
B.3.1
变量
B.3.2
简单的输出
B.4
向量
B.4.1
向量
B.4.2
向量下标
B.4.3
用范围作为下标
B.4.4
数组作为下标
B.4.5
向量与标量的运算
B.4.6
向量与向量的四则运算
B.4.7
向量初始化
B.4.8
向量复制
B.4.9
向量的循环遍历
B.4.10
向量的输出
B.4.11
向量的输入
B.5
矩阵
B.5.1
矩阵
B.5.2
矩阵下标
B.5.3
矩阵列和行
B.5.4
子矩阵
B.5.5
子矩阵赋值
B.5.6
矩阵初始化
B.5.7
矩阵元素遍历
B.5.8
矩阵读入
B.5.9
保存矩阵到文件中
B.5.10
矩阵与标量的四则运算
B.5.11
两个矩阵之间的四则运算
B.5.12
矩阵乘法
B.5.13
矩阵转置
B.5.14
矩阵求逆和解线性方程组
B.6
自定义函数
B.6.1
介绍
B.6.2
自定义函数的单行格式
B.6.3
自定义函数的多行格式
B.7
程序控制结构
B.7.1
复合表达式
B.7.2
比较运算
B.7.3
逻辑运算
B.7.4
短路与运算和分支
B.7.5
短路或运算与分支
B.7.6
if–end结构
B.7.7
if–else–end结构
B.7.8
if-elseif-else-end结构
B.7.9
三元运算符
B.7.10
for循环
B.7.11
对向量元素循环
B.7.12
向量元素按下标循环
B.7.13
列表推导
B.7.14
两重for循环
B.7.15
矩阵元素遍历
B.7.16
矩阵的列表推导
B.7.17
while循环
B.7.18
直到型循环与break语句
C
Maxima介绍(
*
)
C.1
Maxima初步认识
C.1.1
介绍
C.1.2
四则运算
C.1.3
数值类型
C.1.4
复数
C.1.5
列表(list)
C.1.6
变量
C.2
多项式
C.2.1
多项式合并
C.2.2
多项式因式分解
C.2.3
推导结果导出
C.3
分式化简
C.4
三角函数化简
C.4.1
和差化积
C.4.2
积化和差
C.4.3
三角函数有理式化简
C.5
函数和微积分
C.5.1
常用初等函数
C.5.2
组合函数
C.5.3
自定义变量和自定义函数
C.5.4
代换
C.5.5
级数与连乘
C.5.6
微分
C.5.7
不定积分
C.5.8
定积分
C.6
方程
C.6.1
一元方程
C.6.2
二元方程组
C.7
图形
C.7.1
曲线图
C.7.2
图形文件
C.7.3
多条曲线
C.7.4
对数坐标轴
C.7.5
参数方程作图
C.7.6
三维曲面图
D
理论证明补充(
*
)
D.1
对立变量的补充证明
参考文献
编著:李东风
统计计算
26
Julia中的近似计算函数(
*
)
待完成。