BẤT ĐẲNG THỨC TẬP TRUNG
Trong lý thuyết xác suất, bất đẳng thức tập trung (concentration inuqualities) cung cấp những chặn của sự sai khác giữa một đại lượng ngẫu nhiên và một đại lượng đang xét, thông thường đại lượng đó là giá trị trung bình. Định luật số lớn của lý thuyết xác suất cổ điển khẳng định rằng trung bình của các đại lượng ngẫu nhiên độc lập với yêu cầu thêm một vài điều kiện nào đó thì nó sẽ gần với giá trị kỳ vọng của nó với xác suất lớn. Cái tổng đó là một ví dụ cổ điển của đại lượng ngẫu nhiên tập trung xung quanh giá trị kỳ vọng của nó. Những kết quả hiện tại chỉ ra rằng, điều này cũng đúng cho hàm số của những biến số ngẫu nhiên độc lập. Hai ví dụ cổ điển cho bất đẳng thức tập trung đó là bất đẳng thức Markov và Chebyshev.
Bất đẳng thức Markov: Cho X là một đại lượng ngẫu nhiên không âm (hầu khắp nơi). Khi đó, với mỗi hằng số \(a>0\), ta có \[P(X\geq a)\leq E(X)/a.\] Chú ý rằng ta có thể mở rộng bất đẳng thức Markov như sau: Nếu hàm \(\phi\) là hàm tăng ngặt và không âm, khi đó ta có \[P(X\geq a)=P(\phi(X)\geq \phi(a))\leq E(\phi(X))/\phi(a).\]
Bất đẳng thức Chebyshev: Cho đại lượng ngẫu nhiên \(X\) với phương sai \(Var(X)\) hữu hạn. Khi đó, với mỗi giá trị hằng số \(a>0\), ta có, \[P(|X-E(X)\geq a)\leq (Var(X))/a^2\] hoặc tương đương với \[P(|X-E(X)| \geq a.\sigma(X))\leq 1/a^2,\] trong đó \(\sigma(X)\) là độ lệch chuẩn của đại lượng ngẫu nhiên \(X\).
Chặn Chernoff: Để có chặn Chernoff tổng quát, chúng ta chỉ yêu cầu hàm sinh của đại lượng ngẫu nhiên \(X\), được định nghĩa \(M_X (t)≔E(e^{tX})\), với điều kiện nó tồn tại. Dựa trên bất đẳng thức Markov, với mỗi \(t>0\): \[P(X\geq a)\leq (E(e^{tX}))/e^ta\] và với mỗi \(t<0\): \[P(X\leq a)\leq E(e^{tX} )/e^ta.\] Ta sẽ có những chặn Chernoff khác nhau cho những đại lượng ngẫu nhiên có phân phối khác nhau và các giá trị khác nhau của tham số \(t\).
Tài liệu tham khảo:
https://en.wikipedia.org/wiki/Concentration_inequality