Chương này trả lời một câu hỏi rất đời thường: khi đã biết thêm một thông tin, xác suất của một biến cố thay đổi thế nào? Toàn bộ công cụ gói trong bốn công thức nối tiếp nhau, mỗi công thức là bước tiếp theo của công thức trước.
Cho hai biến cố $A$ và $B$ với $P(B)\gt 0$. Xác suất của $A$ với điều kiện $B$ là $$P(A\mid B)=\dfrac{P(A\cap B)}{P(B)}.$$ Ý nghĩa: ta thu hẹp không gian mẫu lại còn đúng phần $B$ đã xảy ra, rồi hỏi trong phần đó có bao nhiêu phần thuộc $A$. Vì thế mẫu số là $P(B)$ chứ không phải $P(A)$ — đây là chỗ nhầm nhiều nhất.
Nói chung $P(A\mid B)\ne P(B\mid A)$. Hai đại lượng này chỉ bằng nhau khi $P(A)=P(B)$. Trong các bài toán chẩn đoán, nhầm hai chiều này là nhầm "xét nghiệm dương tính khi có bệnh" với "có bệnh khi xét nghiệm dương tính" — hai con số có thể lệch nhau hàng chục lần.
Hai biến cố $A$, $B$ độc lập khi và chỉ khi $P(A\cap B)=P(A)\cdot P(B)$, tương đương $P(A\mid B)=P(A)$: biết $B$ xảy ra cũng không làm thay đổi cơ hội của $A$.
Nhân chéo công thức trên được $$P(A\cap B)=P(B)\cdot P(A\mid B)=P(A)\cdot P(B\mid A).$$ Với ba biến cố: $P(A\cap B\cap C)=P(A)\cdot P(B\mid A)\cdot P(C\mid A\cap B)$. Đây chính là cơ sở của lối tính "lấy lần lượt, không hoàn lại".
Khi dữ kiện cho bằng số lượng, kẻ bảng hai chiều là cách an toàn nhất. Ví dụ một lớp $40$ học sinh, thống kê theo giới tính và việc tham gia câu lạc bộ tiếng Anh:
| Có tham gia ($C$) | Không tham gia ($\overline{C}$) | Tổng dòng | |
|---|---|---|---|
| Nữ ($N$) | 15 | 9 | 24 |
| Nam ($\overline{N}$) | 6 | 10 | 16 |
| Tổng cột | 21 | 19 | 40 |
Từ bảng đọc thẳng ra: $P(N\cap C)=\dfrac{15}{40}$; $P(C\mid N)=\dfrac{15}{24}$ (chia cho tổng dòng Nữ); $P(N\mid C)=\dfrac{15}{21}=\dfrac{5}{7}$ (chia cho tổng cột Có tham gia). Cùng một ô $15$ nhưng ba câu hỏi khác nhau chia cho ba mẫu số khác nhau — nhìn bảng thì không thể lẫn.
Khi bài toán chia thành nhiều giai đoạn, vẽ sơ đồ hình cây: nhánh cấp một là các khả năng của giai đoạn đầu, nhánh cấp hai gắn xác suất có điều kiện. Quy tắc: đi dọc một nhánh thì nhân, gộp nhiều nhánh thì cộng.
Nếu $A$ và $\overline{A}$ chia đôi không gian mẫu (với $0\lt P(A)\lt 1$) thì với mọi biến cố $B$: $$P(B)=P(A)\cdot P(B\mid A)+P\left(\overline{A}\right)\cdot P\left(B\mid\overline{A}\right).$$ Tổng quát hơn, nếu $A_1,A_2,\dots,A_n$ đôi một xung khắc và hợp lại lấp đầy không gian mẫu thì $$P(B)=\sum_{i=1}^{n}P(A_i)\cdot P(B\mid A_i).$$ Đọc theo lối thực tế: xác suất một sản phẩm bị lỗi bằng tổng của "tỉ lệ do dây chuyền nào làm ra nhân với tỉ lệ lỗi của dây chuyền đó".
Xác suất toàn phần đi từ nguyên nhân tới kết quả. Bayes đi ngược lại: đã thấy kết quả, hỏi nguyên nhân nào có khả năng cao nhất. $$P(A\mid B)=\dfrac{P(A)\cdot P(B\mid A)}{P(B)}=\dfrac{P(A)\cdot P(B\mid A)}{P(A)\cdot P(B\mid A)+P\left(\overline{A}\right)\cdot P\left(B\mid\overline{A}\right)}.$$ Tử số là một nhánh của cây, mẫu số là tổng mọi nhánh dẫn tới $B$. Vì vậy mọi bài Bayes đều gồm hai bước: tính xác suất toàn phần ở mẫu, rồi lấy nhánh cần hỏi chia cho nó.
Một hệ quả quan trọng và phản trực giác: khi tỉ lệ mắc bệnh trong dân số rất nhỏ, dù xét nghiệm rất chính xác thì $P\left(\text{có bệnh}\mid\text{dương tính}\right)$ vẫn có thể thấp, vì số người khoẻ đông hơn hẳn nên lượng dương tính giả áp đảo.
Hệ $A_1,\ A_2,\ \ldots,\ A_k$ đầy đủ nghĩa là chúng đôi một không giao nhau và hợp lại lấp kín không gian mẫu. Khi đó $B$ bị cắt thành $k$ mảnh rời nhau $B\cap A_i$, nên $P(B)=\sum P(B\cap A_i)$; thay mỗi hạng tử bằng $P(A_i)P(B\mid A_i)$ là ra công thức. Hai điều kiện ấy không phải thủ tục: thiếu “laps kín” thì tổng bị hụt, thiếu “không giao nhau” thì có phần bị đếm hai lần và tổng có thể vượt $1$.
Viết lại công thức cho dễ đọc:
$$P\left(A_i\mid B\right)=\dfrac{\text{nhánh đi qua } A_i \text{ rồi tới } B}{\text{tổng mọi nhánh tới } B}.$$Nói cách khác: đứng trong tập những trường hợp đã xảy ra $B$ mà nhìn, rồi hỏi bao nhiêu phần trăm đến từ $A_i$. Vì vậy mọi bài Bayes đều là hai bước: tính mẫu (xác suất toàn phần) trước, rồi lấy nhánh cần hỏi chia cho nó. Kết quả có thể rất lệch so với trực giác: một nhánh nhỏ nhưng “sạch” vẫn có thể áp đảo vì nhánh kia tuy “bẩn” hơn nhưng quá hiếm.
Gọi $A$: “viên thứ nhất đỏ”, $B$: “viên thứ hai đỏ”. Cần $P(A\cap B)$; vì lấy không hoàn lại nên hai lần lấy không độc lập:
$$P(A\cap B)=P(A)\cdot P(B\mid A).$$Đã có một viên đỏ rời hộp nên còn $9$ viên với $5$ viên đỏ:
$$P(B\mid A)=\dfrac{5}{9}\ \Rightarrow\ P(A\cap B)=\dfrac{6}{10}\cdot\dfrac{5}{9}=\dfrac{30}{90}=\dfrac{1}{3}.$$Đường tổ hợp: $\dfrac{C_6^2}{C_{10}^2}=\dfrac{15}{45}=\dfrac{1}{3}$. Đường kiểm tổng: bốn nhánh tận cùng cộng lại phải bằng $1$, và $\dfrac{1}{3}+\dfrac{4}{15}+\dfrac{4}{15}+\dfrac{2}{15}=1$ — đúng.
$P(A\cap B)=\dfrac{1}{3}\approx 0{,}333$.
Nhân $\dfrac{6}{10}\cdot\dfrac{6}{10}=\dfrac{9}{25}=0{,}36$ là tính cho trường hợp có hoàn lại — lớn hơn đáp số đúng. Giữ mẫu $10$ ($\dfrac{6}{10}\cdot\dfrac{5}{10}=0{,}3$) là nhớ giảm tử mà quên giảm mẫu. Lấy $\dfrac{6}{10}+\dfrac{5}{9}$ là cộng dọc một nhánh, cho một số lớn hơn $1$.
Hỏi “viên thứ hai đỏ” mà không biết viên đầu thì cộng hai nhánh dẫn tới đó: $\dfrac{1}{3}+\dfrac{4}{15}=\dfrac{3}{5}$ — đúng bằng xác suất lần đầu, một kết quả có vẻ bất ngờ nhưng luôn đúng. Còn hỏi “hai viên khác màu” thì cộng hai nhánh giữa: $\dfrac{4}{15}+\dfrac{4}{15}=\dfrac{8}{15}$.
Gọi $M_1$, $M_2$ là biến cố sản phẩm do máy I, máy II làm ra; $E$ là biến cố “phế phẩm”. Hai máy làm hết lô hàng và một sản phẩm chỉ do một máy làm, lại có $0{,}6+0{,}4=1$: hệ đầy đủ, dùng được công thức xác suất toàn phần.
Phép chặn có sẵn: $P(E)$ bắt buộc nằm giữa hai tỉ lệ lỗi $0{,}02$ và $0{,}05$, vì nó là trung bình có trọng số của hai số đó. Kết quả $0{,}032$ thoả, và lệch về phía $0{,}02$ vì máy I chiếm tỉ trọng lớn hơn — hợp lý. Kiểm thêm: tổng bốn nhánh $0{,}012+0{,}588+0{,}020+0{,}380=1$.
$P(E)=0{,}032$, tức khoảng $3{,}2\%$ sản phẩm của xí nghiệp là phế phẩm.
Cộng thẳng hai tỉ lệ lỗi: $0{,}02+0{,}05=0{,}07$ — hơn gấp đôi đáp số, và còn vượt ra ngoài khoảng $[0{,}02;0{,}05]$ nên sai lộ ngay. Lấy trung bình cộng $\dfrac{0{,}02+0{,}05}{2}=0{,}035$ là quên rằng hai máy không làm ra số sản phẩm bằng nhau. Nhân chéo $0{,}6\times 0{,}05+0{,}4\times 0{,}02=0{,}038$ là gán nhầm tỉ lệ lỗi cho máy kia.
Nếu xí nghiệp có thêm máy III làm $10\%$ với tỉ lệ lỗi $1\%$ thì phải chia lại tỉ trọng cho tổng bằng $1$ rồi cộng ba nhánh; bỏ sót một máy là tổng bị hụt và $P(E)$ nhỏ hơn sự thật. Còn nếu đổi tỉ trọng thành $0{,}4$ và $0{,}6$ thì $P(E)=0{,}4\times 0{,}02+0{,}6\times 0{,}05=0{,}038$ — cùng bộ số nhưng đáp số khác hẳn.
Ví dụ trước: biết máy, hỏi phế phẩm. Bây giờ: biết phế phẩm, hỏi máy. Đó đúng là tình huống dùng Bayes:
$$P\left(M_2\mid E\right)=\dfrac{P(M_2)\cdot P\left(E\mid M_2\right)}{P(E)}.$$Đã tính ở ví dụ trước: $P(E)=0{,}032$. Do đó
$$P\left(M_2\mid E\right)=\dfrac{0{,}020}{0{,}032}=\dfrac{20}{32}=\dfrac{5}{8}=0{,}625.$$$P\left(M_1\mid E\right)=\dfrac{0{,}012}{0{,}032}=\dfrac{3}{8}=0{,}375$, và $\dfrac{5}{8}+\dfrac{3}{8}=1$ đúng như phải có, vì sản phẩm lỗi chỉ có thể từ một trong hai máy. Đọc lại cho có nghĩa: máy II chỉ làm $40\%$ sản phẩm nhưng chiếm tới $62{,}5\%$ số phế phẩm, vì tỉ lệ lỗi của nó cao hơn hẳn.
$P\left(M_2\mid E\right)=\dfrac{5}{8}=0{,}625$.
Trả lời $0{,}05$ là đưa ra $P\left(E\mid M_2\right)$ — đúng đại lượng bị đảo chiều, và nhỏ hơn đáp số hơn mười lần. Lấy $\dfrac{0{,}020}{0{,}4}=0{,}05$ là chia nhầm cho $P(M_2)$ thay vì $P(E)$. Lấy $\dfrac{0{,}05}{0{,}02+0{,}05}=\dfrac{5}{7}\approx 0{,}714$ là quên nhân tỉ trọng hai máy vào từng nhánh.
Nếu máy II chỉ làm $10\%$ sản phẩm (máy I làm $90\%$) thì $P(E)=0{,}9\times 0{,}02+0{,}1\times 0{,}05=0{,}023$ và $P\left(M_2\mid E\right)=\dfrac{0{,}005}{0{,}023}\approx 0{,}217$ — tụt từ $62{,}5\%$ xuống còn khoảng $22\%$ dù tỉ lệ lỗi của máy II không đổi. Đó chính là hiệu ứng “nguồn hiếm thì dù bẩn vẫn đóng góp ít”, lý do khiến xét nghiệm bệnh hiếm hay cho kết quả phản trực giác.