Mục lục bài họcĐang ở d08-b3
Artificial intelligence and its consequences
What machine learning is
Instead of a programmer writing rules, the system is given data and adjusts its own parameters to reduce error. Supervised learning uses labelled examples (this image is a cat); unsupervised learning finds structure in unlabelled data (these customers cluster together); reinforcement learning learns from reward and penalty over repeated attempts.
Neural networks, briefly
Layers of connected nodes: an input layer, one or more hidden layers, an output layer. Each connection has a weight; training adjusts the weights so the output moves closer to the correct answer. 'Deep' learning simply means many hidden layers.
What AI is good and bad at
Good: recognising patterns in large volumes of data, working without fatigue, and finding relationships a human would not notice. Bad: explaining why it reached a conclusion, handling situations unlike anything in its training data, and knowing when it is wrong — a model outputs a confident answer whether or not it has any basis for one.
Bias, and where it comes from
A model trained on past decisions reproduces the pattern of those decisions, including any unfairness in them. If historical loan approvals favoured one group, a model trained on them will too — and it will do so consistently, at scale, and with the appearance of objectivity. The bias is in the data, not in the algorithm, which is exactly why it is hard to detect.
Accountability
When automated software causes harm, who is responsible: the developer, the organisation that deployed it, or the person who followed its recommendation? The defensible position for the exam is that a system making decisions about people should be explainable, auditable, and subject to human review — and that 'the algorithm decided' is not an answer.
Học máy là gì
Thay vì lập trình viên viết ra các quy tắc, hệ thống được cho dữ liệu và tự điều chỉnh tham số của mình để giảm sai số. Học có giám sát dùng các ví dụ đã gán nhãn (ảnh này là con mèo); học không giám sát tìm cấu trúc trong dữ liệu chưa gán nhãn (nhóm khách hàng này giống nhau); học tăng cường học từ phần thưởng và hình phạt qua nhiều lần thử.
Mạng nơ-ron, nói ngắn
Các lớp nút được nối với nhau: một lớp đầu vào, một hoặc nhiều lớp ẩn, một lớp đầu ra. Mỗi liên kết có một trọng số; quá trình huấn luyện điều chỉnh các trọng số để đầu ra tiến gần đáp án đúng. ‘Học sâu’ đơn giản là có nhiều lớp ẩn.
Trí tuệ nhân tạo mạnh và yếu ở đâu
Mạnh: nhận ra quy luật trong khối dữ liệu lớn, làm việc không mệt mỏi, và tìm ra mối liên hệ mà con người không để ý. Yếu: giải thích vì sao nó đi tới kết luận đó, xử lý tình huống khác hẳn dữ liệu huấn luyện, và biết được khi nào mình sai — một mô hình đưa ra câu trả lời đầy tự tin bất kể nó có cơ sở hay không.
Thiên lệch, và nó từ đâu ra
Một mô hình huấn luyện trên các quyết định trong quá khứ sẽ tái tạo lại chính khuôn mẫu của những quyết định đó, kể cả phần bất công trong chúng. Nếu việc duyệt vay trước đây thiên vị một nhóm, mô hình huấn luyện trên đó cũng sẽ thiên vị — và nó làm điều đó một cách nhất quán, ở quy mô lớn, và với vẻ ngoài khách quan. Thiên lệch nằm ở DỮ LIỆU chứ không ở thuật toán, và đó chính là lý do nó khó phát hiện.
Trách nhiệm giải trình
Khi phần mềm tự động gây hại, ai chịu trách nhiệm: người phát triển, tổ chức triển khai nó, hay người đã làm theo khuyến nghị của nó? Lập trường bảo vệ được trong bài thi là: một hệ thống ra quyết định về con người thì phải giải thích được, kiểm toán được, và phải chịu sự rà soát của con người — và ‘thuật toán quyết định thế’ không phải một câu trả lời.
Một công ty dùng phần mềm học máy sàng lọc hồ sơ ứng tuyển, huấn luyện trên $10$ năm dữ liệu tuyển dụng của chính công ty. Sau một năm, tỷ lệ ứng viên nữ được mời phỏng vấn giảm từ $38\%$ xuống $19\%$, dù phần mềm không hề được cho biết giới tính ứng viên.
Giải thích vì sao và đề xuất cách xử lý.
Bước 1 — nguồn gốc của thiên lệch nằm ở DỮ LIỆU HUẤN LUYỆN.
Mô hình học từ $10$ năm quyết định tuyển dụng trong quá khứ. Nếu trong thời gian đó công ty tuyển ít nữ hơn, mô hình học được rằng ‘hồ sơ giống các ứng viên đã được tuyển’ là hồ sơ tốt — và các ứng viên đã được tuyển phần lớn là nam.
Bước 2 — vì sao việc giấu giới tính không giúp được gì. Đây là chi tiết quan trọng nhất của tình huống. Mô hình tìm ra các biến thay thế tương quan với giới tính: tên trường, tên câu lạc bộ, cách diễn đạt trong đơn, khoảng trống trong lý lịch nghề nghiệp, hoặc thậm chí một số động từ thường xuất hiện hơn ở một nhóm.
Xoá trường ‘giới tính’ không xoá được thông tin về giới tính — nó chỉ làm thông tin đó khó thấy hơn với người kiểm tra, trong khi mô hình vẫn dùng được.
Bước 3 — vì sao vấn đề này nguy hiểm hơn thiên lệch của con người. Một người tuyển dụng thiên vị ảnh hưởng tới số hồ sơ họ đọc; một mô hình thiên vị áp dụng cùng một thiên lệch cho mọi hồ sơ, một cách nhất quán, và với vẻ ngoài khách quan khiến không ai chất vấn.
Cách xử lý.
$1.$ Dừng dùng phần mềm để loại hồ sơ cho tới khi kiểm tra xong. Đây là bước đầu tiên vì mỗi tuần chậm trễ là thêm ứng viên bị loại oan.
$2.$ Kiểm toán mô hình: chạy thử với các hồ sơ giống hệt nhau chỉ khác các dấu hiệu liên quan tới giới tính, và đo chênh lệch kết quả. Đây là phép thử trực tiếp cho thiên lệch.
$3.$ Sửa dữ liệu huấn luyện chứ không chỉ sửa mô hình: huấn luyện lại trên dữ liệu đã cân bằng, hoặc dùng kết quả làm việc thực tế của nhân viên thay vì dùng quyết định tuyển trong quá khứ làm nhãn.
$4.$ Đưa con người vào vòng quyết định: để phần mềm xếp hạng và gợi ý, nhưng người tuyển dụng phải xem và chịu trách nhiệm về danh sách cuối, kèm theo dõi định kỳ cơ cấu ứng viên qua từng vòng.
Điểm cần nêu khi kết luận: lỗi ở đây không phải của thuật toán mà của quyết định dùng dữ liệu quá khứ làm chuẩn mực cho tương lai. Một hệ thống ra quyết định về con người phải giải thích được và kiểm toán được — nếu không thì không nên triển khai.
Đọc xong rồi — làm thử ngay
Bài tập của chương Operating Systems, Networks and AI gồm 14 câu trắc nghiệm và 3 đề tự luận. Đáp án hiện ngay khi chọn, miễn phí.