Mục lục bài họcĐang ở d07-b4
Autonomous Agents, Multi-Agent Systems and the Ethics of Autonomy
What makes an agent autonomous. An ordinary control system follows fixed rules set by a person and leaves decisions to that person. An autonomous agent closes the loop without a human inside it: it senses its environment, decides using its goals and a model of the world, acts through actuators, and its action changes the environment it senses next. Three levels of autonomy appear in questions. A reactive agent applies fixed if-then rules — a robot vacuum that turns when it hits a wall — fast and predictable but unable to plan or learn. A goal-based agent plans a route to an objective using a model of the world — a warehouse robot navigating around obstacles. A learning agent changes its behaviour from experience — a self-driving car's perception system — most capable, and least able to explain why it did what it did.
Multi-agent systems. Many simple agents cooperating or competing can solve problems no single agent could: a swarm of drones mapping a disaster area, traffic lights negotiating with each other, delivery robots sharing a warehouse. The advantages are robustness (one agent failing does not stop the system), scalability and parallelism. The difficulties are coordination (two robots wanting the same aisle), communication overhead, and emergent behaviour — the system as a whole doing something nobody designed, sometimes useful and sometimes a traffic jam of robots each politely yielding to the other.
Why autonomy raises ethical questions that ordinary software does not. When a program advises and a person decides, responsibility is clear. When the agent decides, four questions open. Responsibility: when an autonomous car injures someone, is it the programmer, the manufacturer, the owner, the regulator who certified it — or nobody? Explainability: a learning agent may be unable to give reasons for a decision, which matters in medicine, credit and justice. Whose goals: an agent is optimised for something — the passenger's safety or the pedestrian's, profit or fairness — and that choice is made by its designers, usually invisibly. Control: is there a stop button, and after years of not intervening do humans still have the skill to take over? Beyond these: job displacement, surveillance by autonomous systems, and bias learned from biased data.
How to answer an ethics question. Name who is affected and how; distinguish harms that are likely from those that are possible; and propose a design or policy that reduces the risk — logging every decision for audit, keeping a human able to override, testing on diverse data, clear legal liability. An answer that merely lists "ethical issues" scores little; one that connects a specific harm to a specific design choice scores fully.
Điều gì làm một tác tử tự trị. Hệ điều khiển thông thường làm theo quy tắc cố định do người đặt và để quyết định cho người đó. Tác tử tự trị khép kín vòng lặp mà không có người bên trong: nó cảm nhận môi trường, quyết định bằng mục tiêu và một mô hình về thế giới, hành động qua cơ cấu chấp hành, và hành động đó thay đổi môi trường nó cảm nhận ở vòng tiếp theo. Ba mức tự trị xuất hiện trong đề. Tác tử phản xạ áp dụng quy tắc nếu-thì cố định — máy hút bụi quay khi đụng tường — nhanh và đoán được nhưng không lập kế hoạch hay học được. Tác tử có mục tiêu lập kế hoạch tới đích bằng một mô hình thế giới — robot kho tìm đường quanh vật cản. Tác tử học thay đổi hành vi từ kinh nghiệm — hệ nhận thức của xe tự lái — mạnh nhất, và ít giải thích được nhất vì sao nó làm điều đã làm.
Hệ đa tác tử. Nhiều tác tử đơn giản hợp tác hoặc cạnh tranh có thể giải bài toán không tác tử đơn nào làm được: đàn drone lập bản đồ vùng thiên tai, đèn giao thông thương lượng với nhau, robot giao hàng chia sẻ một nhà kho. Ưu điểm là bền vững (một tác tử hỏng không dừng hệ), mở rộng được và song song. Khó khăn là phối hợp (hai robot cùng muốn một lối đi), chi phí giao tiếp, và hành vi nổi lên — cả hệ làm điều không ai thiết kế, đôi khi hữu ích và đôi khi là một đám tắc robot lịch sự nhường nhau mãi.
Vì sao tự trị đặt ra câu hỏi đạo đức mà phần mềm thường không có. Khi chương trình tư vấn và người quyết định, trách nhiệm rõ ràng. Khi tác tử quyết định, bốn câu hỏi mở ra. Trách nhiệm: khi xe tự lái gây thương tích, là người lập trình, nhà sản xuất, chủ xe, cơ quan cấp phép — hay không ai? Giải thích được: tác tử học có thể không nêu được lý do cho một quyết định, điều quan trọng trong y tế, tín dụng và tư pháp. Mục tiêu của ai: tác tử được tối ưu cho một thứ — an toàn của hành khách hay của người đi bộ, lợi nhuận hay công bằng — và lựa chọn đó do người thiết kế đưa ra, thường vô hình. Kiểm soát: có nút dừng không, và sau nhiều năm không can thiệp, con người còn kỹ năng để tiếp quản không? Ngoài ra: mất việc làm, giám sát bằng hệ tự trị, và thiên lệch học từ dữ liệu thiên lệch.
Cách trả lời câu hỏi đạo đức. Nêu ai bị ảnh hưởng và thế nào; phân biệt tác hại có khả năng xảy ra với tác hại có thể xảy ra; và đề xuất một thiết kế hoặc chính sách giảm rủi ro — ghi nhật ký mọi quyết định để kiểm tra, giữ con người có thể ghi đè, kiểm thử trên dữ liệu đa dạng, trách nhiệm pháp lý rõ. Bài chỉ liệt kê các vấn đề đạo đức được ít điểm; bài nối một tác hại cụ thể với một lựa chọn thiết kế cụ thể được điểm đầy đủ.
Một bệnh viện muốn robot chở thuốc từ kho tới các khoa, đi chung hành lang với người. Ba đề xuất: (A) robot theo vạch từ dán trên sàn, dừng khi cảm biến thấy vật cản; (B) robot có bản đồ bệnh viện, tự tìm đường và tránh vật cản; (C) robot học từ camera để dự đoán chuyển động của người và luồn lách. Phân loại và chọn.
Phân loại. A là tác tử phản xạ: quy tắc cố định theo vạch, gặp vật cản thì dừng; không có mô hình thế giới. B là tác tử có mục tiêu: có bản đồ, lập kế hoạch đường đi tới khoa đích, lập lại khi gặp vật cản. C là tác tử học: hành vi thay đổi theo dữ liệu camera, không có quy tắc rõ ràng để đọc.
Đánh giá A. Rẻ, đoán được tuyệt đối, dễ kiểm định: mọi hành vi đều đọc được từ quy tắc. Nhưng một xe đẩy bỏ trên vạch làm robot đứng chờ vô hạn, và mỗi thay đổi bố trí hành lang phải dán lại vạch. Phù hợp với bệnh viện nhỏ hành lang ít người.
Đánh giá B. Linh hoạt hơn nhiều: đi vòng vật cản, đổi tuyến khi thang máy hỏng. Vẫn đoán được vì kế hoạch được tính bằng thuật toán rõ ràng và có thể ghi nhật ký từng quyết định. Cần bản đồ cập nhật và cảm biến tốt hơn, đắt hơn A.
Đánh giá C. Luồn lách qua đám đông tốt nhất, nhưng không giải thích được vì sao nó chọn rẽ trái, không kiểm định được mọi tình huống, và có thể học sai từ dữ liệu — ví dụ tránh người mặc áo trắng vì bác sĩ hay nhường đường. Trong bệnh viện, nơi va chạm với bệnh nhân già là tác hại thật, tính đoán được quan trọng hơn sự khéo léo.
Chọn B với hai ràng buộc. Tốc độ giới hạn thấp ở hành lang đông, và một quy tắc phản xạ dừng khi có gì trong 0,5 m đặt trên mọi kế hoạch — lớp an toàn đơn giản nhất, đoán được nhất bao ngoài lớp thông minh. Kết luận chung: mức tự trị nên là mức thấp nhất đủ làm việc, và lớp an toàn luôn là phản xạ.
Câu hỏi: Thảo luận các vấn đề đạo đức của việc cho phép xe tự lái hoạt động trên đường công cộng. Hãy viết dàn ý ăn điểm và chỉ ra bài yếu thường viết gì.
Bài yếu. Liệt kê: có vấn đề trách nhiệm, có vấn đề riêng tư, có vấn đề việc làm, xe có thể gây tai nạn. Mỗi ý một câu, không ai bị ảnh hưởng cụ thể, không thiết kế nào được đề xuất. Điểm thấp dù ý đúng.
Ý 1 — trách nhiệm, với người bị ảnh hưởng và thiết kế giảm rủi ro. Khi xe gây tai nạn, nạn nhân cần được bồi thường nhưng chuỗi trách nhiệm bị đứt: người ngồi trong xe không lái, nhà sản xuất nói phần mềm hoạt động đúng thiết kế, nhà cung cấp cảm biến nói cảm biến đúng thông số. Thiết kế giảm rủi ro: luật quy định nhà sản xuất chịu trách nhiệm khi xe ở chế độ tự lái, kèm hộp đen ghi mọi quyết định và dữ liệu cảm biến để xác định nguyên nhân.
Ý 2 — mục tiêu của ai. Khi va chạm không tránh được, phần mềm phải chọn — và lựa chọn đó được người thiết kế cài sẵn, có thể ưu tiên hành khách vì họ là khách hàng. Người đi bộ và xe đạp, không mua sản phẩm, chịu rủi ro mà không có tiếng nói. Thiết kế giảm rủi ro: tiêu chuẩn công khai do cơ quan quản lý đặt, không do từng hãng, và kiểm định độc lập.
Ý 3 — giải thích được và thiên lệch. Hệ nhận thức học từ dữ liệu; nếu dữ liệu ít người đi bộ da sẫm màu ban đêm, xe nhận diện họ kém hơn — tác hại rơi vào nhóm cụ thể. Thiết kế giảm rủi ro: yêu cầu kiểm thử trên tập dữ liệu đa dạng được công bố, và ngưỡng nhận diện tối thiểu theo nhóm.
Ý 4 — kiểm soát và kỹ năng. Xe yêu cầu người tiếp quản trong tình huống khó, nhưng người đã không lái nhiều giờ phản ứng chậm hơn — chuyển giao là lúc nguy hiểm nhất. Thiết kế giảm rủi ro: hoặc tự trị hoàn toàn trong phạm vi giới hạn (đường cao tốc, tốc độ thấp) hoặc giám sát liên tục sự chú ý của người lái.
Kết luận có lập trường. Cho phép theo giai đoạn, trong phạm vi vận hành xác định, với hộp đen, trách nhiệm pháp lý rõ và kiểm định độc lập — thay vì cấm hoặc cho phép toàn bộ. Cấu trúc mỗi ý là: ai bị ảnh hưởng, thế nào, thiết kế nào giảm.
Bẫy 2 — liệt kê vấn đề đạo đức không có ai bị ảnh hưởng. Mỗi ý phải có nạn nhân cụ thể và một thiết kế giảm rủi ro.
Bẫy 3 — coi hành vi nổi lên là lỗi lập trình. Nó là tính chất của hệ đa tác tử; phải thiết kế để phát hiện và chặn.
Đọc xong rồi — làm thử ngay
Bài tập của chương Control (HL) gồm 14 câu trắc nghiệm và 5 đề tự luận. Đáp án hiện ngay khi chọn, miễn phí.