常態分佈 機率密度函數

常態分佈維基百科，自由的百科全書跳到： 導覽, 搜尋

常態分佈 機率密度函數

綠線代表標準常態分佈
累積分佈函數

顏色與機率密度函數同
參數 μ location（real）
σ2 > 0 squared scale（real）
支撐集
機率密度函數
累積分佈函數
期望值 μ
中位數 μ
眾數 μ
變異數 σ2
偏度 0
峰度 3
信息熵
動差生成函數
特性函數

常態分佈（normal distribution）又名高斯分佈（Gaussian distribution），是一個在數學、物理及工程等領域都非常重要的機率分佈，在統計學的許多方面有着重大的影響力。

若隨機變量X服從一個數學期望為μ、標準變異數為σ2的高斯分佈，記為：


則其機率密度函數為


常態分佈的期望值μ決定了其位置，其標準差σ決定了分佈的幅度。因其曲線呈鐘形，因此人們又經常稱之為鐘形曲線。我們通常所說的標準常態分佈是μ = 0,σ = 1的常態分佈（見右圖中綠色曲線）。

目錄 [隱藏]
1 概要
1.1 歷史
2 常態分佈的定義
2.1 機率密度函數
2.2 累積分佈函數
2.3 生成函數
2.3.1 動差生成函數
2.3.2 特徵函數
3 性質
3.1 標準化正態隨機變量
3.2 矩(英文:moment)
3.3 生成正態隨機變量
3.4 中心極限定理
3.5 無限可分性
3.6 穩定性
3.7 標準偏差
4 正態測試
5 相關分佈
6 參量估計
6.1 參數的極大似然估計
6.1.1 概念一般化
6.2 參數的矩估計
7 常見實例
7.1 光子計數
7.2 計量誤差
7.3 生物標本的物理特性
7.4 金融變量
7.5 壽命
7.6 測試和智力分佈
8 計算統計應用
8.1 生成常態分佈隨機變量
9 參見
10 引用條目
11 外部連接

[編輯] 概要正態分佈是自然科學與行為科學中的定量現象的一個方便模型。各種各樣的心理學測試分數和物理現象比如光子計數都被發現近似地服從常態分佈。儘管這些現象的根本原因經常是未知的， 理論上可以證明如果把許多小作用加起來看做一個變量，那麼這個變量服從常態分佈(在R.N.Bracewell的Fourier transform and its application中可以找到一種簡單的證明)。常態分佈出現在許多區域統計:例如, 採樣分佈均值是近似地正態的，既使被採樣的樣本總體並不服從常態分佈。另外，常態分佈信息熵在所有的已知均值及變異數的分佈中最大，這使得它作為一種均值以及變異數已知的分佈的自然選擇。常態分佈是在統計以及許多統計測試中最廣泛應用的一類分佈。在機率論，常態分佈是幾種連續以及離散分佈的極限分佈。

[編輯] 歷史常態分佈最早是棣莫佛在1734年發表的一篇關於二項分佈文章中提出的。拉普拉斯在1812年發表的《分析機率論》（Theorie Analytique des Probabilites）中對棣莫佛的結論作了擴展。現在這一結論通常被稱為棣莫佛－拉普拉斯定理。

拉普拉斯在誤差分析試驗中使用了常態分佈。勒讓德於1805年引入最小二乘法這一重要方法；而高斯則宣稱他早在1794年就使用了該方法，並通過假設誤差服從常態分佈給出了嚴格的證明。

「鐘形曲線」這個名字可以追溯到Jouffret他在1872年首次提出這個術語"鐘形曲面"，用來指代二元常態分佈（bivariate normal）。常態分佈這個名字還被Charles S. Peirce、Francis Galton、Wilhelm Lexis在1875分佈獨立的使用。這個術語是不幸的，因為它反應和鼓勵了一種謬誤，即很多機率分佈都是正態的。（請參考下面的「實例」）

這個分佈被稱為「正態」或者「高斯」正好是Stigler名字由來法則的一個例子，這個法則說「沒有科學發現是以它最初的發現者命名的」。

[編輯] 常態分佈的定義有幾種不同的方法用來說明一個隨機變量。最直觀的方法是機率密度函數，這種方法能夠表示隨機變量每個取值有多大的可能性。累積分佈函數是一種機率上更加清楚的方法，但是非專業人士看起來不直觀（請看下邊的例子）。還有一些其他的等價方法，例如cumulant、特徵函數、動差生成函數以及cumulant-生成函數。這些方法中有一些對於理論工作非常有用，但是不夠直觀。請參考關於機率分佈的討論。

[編輯] 機率密度函數
四個不同參數集的機率密度函數（綠色線代表標準常態分佈）常態分佈的機率密度函數均值為μ 變異數為σ2 (或標準差σ)是高斯函數的一個實例：

。
(請看指數函數以及π.)

如果一個隨機變量X服從這個分佈，我們寫作 X ~ N(μ,σ2). 如果μ = 0並且σ = 1，這個分佈被稱為標準常態分佈，這個分佈能夠簡化為

。
右邊是給出了不同參數的常態分佈的函數圖。

常態分佈中一些值得注意的量：

密度函數關於平均值對稱
平均值是它的眾數（statistical mode）以及中位數（median）
函數曲線下68.268949%的面積在平均值左右的一個標準差範圍內
95.449974%的面積在平均值左右兩個標準差2σ的範圍內
99.730020%的面積在平均值左右三個標準差3σ的範圍內
99.993666%的面積在平均值左右四個標準差4σ的範圍內
反曲點（inflection point）在離平均值的距離為標準差之處
[編輯] 累積分佈函數
上圖所示的機率密度函數的累積分佈函數累積分佈函數是指隨機變量X小於或等於x的機率，用密度函數表示為


標準常態分佈的累積分佈函數習慣上記為Φ，它僅僅是指μ = 0，σ = 1時的值，


標準常態分佈的累積分佈函數能夠被一個叫做誤差函數的特殊函數表示，


它的反函數被稱為反誤差函數，為：


該分位數函數有時也被稱為probit函數。probit函數已被證明沒有初等原函數。

常態分佈的分佈函數Φ(x)沒有解析表達式，它的值可以通過數值積分、泰勒級數或者漸進序列近似得到。

[編輯] 生成函數[編輯] 動差生成函數動差生成函數被定義為exp(tX)的期望值。

常態分佈的矩生成函數如下：





可以通過在指數函數內配平方得到。

[編輯] 特徵函數特徵函數被定義為exp(itX)的期望值，其中i是虛數單位. 對於一個常態分佈來講，特徵函數是：





把矩生成函數中的t換成it就能得到特徵函數。

[編輯] 性質常態分佈的一些性質:

1.如果且a與b是實數，那麼 (參見期望值和變異數).
2.如果與是統計獨立的正態隨機變量，那麼:
它們的和也滿足常態分佈 (proof).
它們的差也滿足常態分佈.
U與V兩者是相互獨立的。
3.如果和是獨立正態隨機變量，那麼:
它們的積XY服從機率密度函數為p的分佈
其中K0是貝塞爾函數（modified Bessel function）
它們的比符合柯西分佈，滿足.
4.如果為獨立標準正態隨機變量，那麼服從自由度為n的卡方分佈。
[編輯] 標準化正態隨機變量[編輯] 矩(英文:moment)一些常態分佈的一階動差如下：

階數 原點矩 中心矩 Cumulant
0 1 0
1 μ 0 μ
2 μ2 + σ2 σ2 σ2
3 μ3 + 3μσ2 0 0
4 μ4 + 6μ2σ2 + 3σ4 3σ4 0

常態分佈的所有二階以上的累積量為零。

[編輯] 生成正態隨機變量[編輯] 中心極限定理主條目：中心極限定理

常態分佈的機率密度函數，參數為μ = 12，σ = 3，趨近於n = 48、p = 1/4的二項分佈的機率質量函數。常態分佈有一個非常重要的性質：在特定條件下，大量統計獨立的隨機變量的和的分佈趨於常態分佈，這就是中心極限定理。中心極限定理的重要意義在於，根據這一定理的結論，其他機率分佈可以用常態分佈作為近似。

參數為n和p的二項分佈，在n相當大而且p不接近1或者0時近似於常態分佈（有的參考書建議僅在np與n(1 − p)至少為5時才能使用這一近似）。
近似常態分佈平均數為μ = np且變異數為σ2 = np(1 − p).

一帕松分佈帶有參數λ當取樣樣本數很大時將近似常態分佈λ.
近似常態分佈平均數為μ = λ且變異數為σ2 = λ.

這些近似值是否完全充分正確取決於使用者的使用需求

[編輯] 無限可分性常態分佈是無限可分的機率分佈。

[編輯] 穩定性常態分佈是嚴格穩定的機率分佈。

[編輯] 標準偏差
深藍色區域是距平均值小於一個標準差之內的數值範圍。在常態分佈中，此範圍所佔比率為全部數值之68%。根據常態分佈，兩個標準差之內（藍，棕）的比率合起來為95%。根據常態分佈，三個標準差之內（深藍，橙，黃）的比率合起來為99%。在實際應用上，常考慮一組數據具有近似於常態分佈的機率分佈。若其假設正確，則約68%數值分佈在距離平均值有1個標準差之內的範圍，約95%數值分佈在距離平均值有2個標準差之內的範圍，以及約99.7%數值分佈在距離平均值有3個標準差之內的範圍。稱為"68-95-99.7法則"或"經驗法則".

[編輯] 正態測試[編輯] 相關分佈R˜Rayleigh(σ)是瑞利分佈，如果，這裡X˜N(0,σ2)和Y˜N(0,σ2)是兩個獨立常態分佈。
是卡方分佈具有ν自由度，如果這裡Xk˜N(0,1)其中是獨立的。
Y˜Cauchy(μ = 0,θ = 1)是柯西分佈，如果Y = X1 / X2，其中X1˜N(0,1)並且X2˜N(0,1)是兩個獨立的常態分佈。
Y˜Log-N(μ,σ2)是對數常態分佈如果Y = eX並且X˜N(μ,σ2).
與Lévy skew alpha-stable分佈相關：如果因而.
截斷常態分佈.如果， 在A以下和B以上截取X 將產生一個平均值這裡，是一個標準正態隨機變量的密度函數
如果X是一個常態分佈的隨機變量, Y = | X | ，那麼Y具有摺疊常態分佈.
[編輯] 參量估計[編輯] 參數的極大似然估計[編輯] 概念一般化多元常態分佈的協變異數矩陣的估計的推導是比較難於理解的。它需要瞭解譜原理（spectral theorem）以及為什麼把一個標量看做一個1×1 matrix的trace而不僅僅是一個標量更合理的原因。請參考協變異數矩陣的估計（estimation of covariance matrices）.

[編輯] 參數的矩估計[編輯] 常見實例[編輯] 光子計數[編輯] 計量誤差《飲料裝填量不足與超量的機率》

某飲料公司裝瓶流程嚴謹，每罐飲料裝填量符合平均600毫升，標準差3毫升的常態分配法則。隨機選取一罐，容量超過605毫升的機率？容量小於590毫升的機率

容量超過605毫升的機率 = p ( X > 605)= p ( ((X-μ) /σ) > ( (605 – 600) / 3) )= p ( Z > 5/3) = p( Z > 1.67) = 0.0475

容量小於590毫升的機率 = p (X < 590) = p ( ((X-μ) /σ) < ( (590 – 600) / 3) )= p ( Z < -10/3) = p( Z < -3.33) = 0.0004 《6-標準差(6-sigma或6-σ)的品質管制標準》 6-標準差(6-sigma或6-σ)，是製造業流行的品質管制標準。在這個標準之下，一個標準常態分配的變數值出現在正負三個標準差之外，只有2* 0.0013= 0.0026 (p (Z < -3) = 0.0013以及p(Z > 3) = 0.0013)。也就是說，這種品質管制標準的產品不良率只有萬分之二十六。假設例3-16的飲料公司裝瓶流程採用這個標準，而每罐飲料裝填量符合平均600毫升，標準差3毫升的常態分配法則。預期裝填容量的範圍應該多少？ 6-標準差的範圍 = p ( -3 < Z < 3)= p ( - 3 < (X-μ) /σ < 3) = p ( -3 < (X- 600) / 3 < 3)= p ( -9 < X – 600 < 9) = p (591 < X < 609) 因此，預期裝填容量應該介於591至609毫升之間。 [編輯] 生物標本的物理特性[編輯] 金融變量[編輯] 壽命[編輯] 測試和智力分佈《計算學生智商高低的機率》 假設某校入學新生的智力測驗平均分數與變異數分別為100與12。那麼隨機抽取50個學生，他們智力測驗平均分數大於105的機率？小於90的機率？ 本例沒有常態分配的假設，還好中央極限定理提供一個可行解，那就是當隨機樣本長度超過30，樣本平均數xbar近似於一個常態變數，因此標準常態變數Z = (xbar –μ) /σ/ √n。 平均分數大於105的機率 = p(Z> (105 – 100) / (12 /√50))= p(Z> 5/1.7) = p( Z > 2.94) = 0.0016

平均分數小於90的機率 = p(Z< (90 – 100) / (12 /√50))= p(Z < 5.88) = 0.0000

[編輯] 計算統計應用[編輯] 生成常態分佈隨機變量在計算機模擬中，經常需要生成常態分佈的數值。最基本的一個方法是使用標準的正態累積分佈函數的反函數。除此之外還有其他更加高效的方法，Box-Muller變換就是其中之一。另一個更加快捷的方法是ziggurat算法。下面將介紹這兩種方法。一個簡單可行的並且容易編程的方法是：求12個在（0,1）上均勻分佈的和，然後減6(12的一半)。這種方法可以用在很多應用中。這12個數的和是Irwin-Hall分佈；選擇一個變異數12。這個隨即推導的結果限制在（-6,6）之間，並且密度為12，是用11次多項式估計常態分佈。

Box-Muller方法是以兩組獨立的隨機數U和V，這兩組數在(0,1]上均勻分佈，用U和V生成兩組獨立的標準常態分佈隨即變量X和Y:


。
這個方程的提出是因為二自由度的卡方分佈（見性質4）很容易由指數隨機變量（方程中的lnU）生成。因而通過隨機變量V可以選擇一個均勻環繞圓圈的角度，用指數分佈選擇半徑然後變換成（常態分佈的）x,y坐標。

[編輯] 參見中心極限定理
機率論
伽瑪分佈
[編輯] 引用條目John Aldrich. Earliest Uses of Symbols in Probability and Statistics.網上材料，2006年6月3日存在.(See "Symbols associated with the Normal Distribution".)
Abraham de Moivre (1738年). The Doctrine of Chances.
Stephen Jay Gould (1981年). The Mismeasure of Man. First edition. W. W. Norton. ISBN 0-393-01489-4.
R. J. Herrnstein and Charles Murray (1994年). The Bell Curve: Intelligence and Class Structure in American Life. Free Press. ISBN 0-02-914673-9.
Pierre-Simon Laplace (1812年). Analytical Theory of Probabilities.
Jeff Miller, John Aldrich, et al. Earliest Known Uses of Some of the Words of Mathematics. In particular, the entries for "bell-shaped and bell curve", "normal" (distribution), "Gaussian", and "Error, law of error, theory of errors, etc.".網上材料，2006年6月3日存在
S. M. Stigler (1999年). Statistics on the Table, chapter 22. Harvard University Press. (History of the term "normal distribution".)
Eric W. Weisstein et al. Normal Distribution at MathWorld.網上材料，2006年6月3日存在。
Marvin Zelen and Norman C. Severo (1964年). Probability Functions. Chapter 26 of Handbook of Mathematical Functions with Formulas, Graphs, and Mathematical Tables, ed, by Milton Abramowitz and Irene A. Stegun. National Bureau of Standards.
[編輯] 外部連接Interactive Distribution Modeler (incl. Normal Distribution).
basic tools for sixsigma
PlanetMath: normal random variable
GNU Scientific Library – Reference Manual – The Gaussian Distribution
Distribution Calculator – Calculates probabilities and critical values for normal, t, chi-square and F-distribution.
Inverse Cumulative Standard Normal Distribution Function
Public Domain Normal Distribution Table
Is normal distribution due to Karl Gauss? Euler, his family of gamma functions, and place in history of statistics
Maxwell demons: Simulating probability distributions with functions of propositional calculus
Normal distribution table
機率分佈 [ 檢視 • 討論 • 編輯 • 歷史 ]
單隨機變量 多隨機變量
離散機率分佈 均勻 • 伯努利 • 幾何 • 二項 • 卜氏 • 超幾何 • 多項 • 負二項 • 玻爾茲曼 • 複合帕松 • 退化 • 高斯-庫茲明 • 對數 • 拉德馬赫 • Skellam • Yule-Simon • ζ • 齊夫 • 齊夫-曼德爾布羅特 • 拋物線碎形 Ewens抽樣公式
連續機率分佈 均勻 • 常態 • 指數 • β（貝塔） • β'（第二類） • 柯西 • χ²（卡方） • δ（德爾塔） • Erlang • 廣義誤差 • F • 衰落 • Fisher的z • Fisher-Tippett • γ（伽瑪） • 廣義極值 • 廣義雙曲 • 半邏輯 • Hotelling的T平方 • 雙曲正割 • 超指數 • 逆χ² • 逆高斯 • 廣義逆高斯 • 逆γ • Kumaraswamy • Landau • 拉普拉斯 • 列維 • 穩定 • 邏輯 • 對數常態•麥克斯韋-玻爾茲曼•麥克斯韋速率分佈律 • 玻色-愛因斯坦 • 費米-狄拉克 • Pareto • Pearson • 極角 • 餘弦平方 • 瑞利 • 相對論的Breit-Wigner • 萊斯 • t（學生氏） • 三角 • 第一類Gumbel•第二類Gumbel • Voigt • von Mises • 韋氏 • Wigner半圓形 狄利克雷 • 肯特 • 矩陣常態分配 • 多變量常態分配 • von Mises-Fisher • Wigner擬機率 • Wishart
其它分佈 康托爾分佈 • 條件機率 • 指數分佈族 • infinitely divisible • location-scale family • 邊緣 • 最大熵 • phase-type • posterior • prior • 擬機率 • 抽樣分配 • singular
取自"http://zh.wikipedia.org/zh-hk/%E6%AD%A3%E6%80%81%E5%88%86%E5%B8%83"
1個分類: 連續機率分佈