Không chỉ con người, AI cũng biết thiên vị
Sự phát triển bùng nổ các thuật toán trí tuệ nhân tạo như học sâu “deep learning” đã biến AI (trí tuệ nhân tạo) thành công cụ đắc lực phục vụ cho chọn lọc dữ liệu,ôngchỉconngườiAIcũngbiếtthiênvịgiá đô la mỹ hôm nay tìm kiếm thông tin, đối tượng tiềm năng…
Người ta đã sử dụng A.I trong nhiều lĩnh vực như tuyển dụng, bán lẻ, gợi ý hàng tiêu dùng… Tuy nhiên, trí tuệ nhân tạo cũng bộc lộ điểm yếu khó chấp nhận: Chúng khá thiên vị.
Thiên vị có thể là hành vi của riêng con người, và “máy móc không biết nói dối". Nhưng AI, với nguồn gốc từ một cỗ máy lại có thể thiên vị, tức chúng ưu tiên người da trắng hơn da màu trong việc tuyển dụng chẳng hạn. Chính “lỗ hổng” này làm cho các nhà khoa học rất đau đầu và quyết tìm ra nguyên nhân hòng khắc phục triệt để. Tuy nhiên mọi việc không hề đơn giản.
Thiên vị xuất phát từ đâu?
Chúng ta thường đơn giản hóa vấn đề bằng cách đổ lỗi. Trong trường hợp này, có thể cho rằng A.I cũng chỉ là máy, máy móc thiên vị do dữ liệu nhận được bị sai lệch. Nói cách khác dữ liệu mang tính thiên vị.
Tuy nhiên sự thật, dữ liệu chỉ là bước gần cuối cùng của quá trình AI suy nghĩ và giải quyết vấn đề. Nói cách khác, sự thiên vị đã bám rễ rất lâu trước khi các dữ liệu được đưa vào máy tính xử lý. Bản thân các thuật toán xử lý đã có tính thiên vị từ lâu.
Ngay từ khi các nhà khoa học máy tính tạo ra mô hình học sâu, họ đã phải quyết định xem rốt cuộc cái họ muốn đạt được là gì. Ví dụ xử lý dữ liệu khách hàng tiềm năng cho một công ty tín dụng. Công ty muốn trí tuệ nhân tạo tìm ra những khách hàng tiềm năng nhất cho họ. Nhưng “tiềm năng nhất” là gì? Là có nhiều tiền hay nhiều khả năng mang lại lợi nhuận cho công ty thông qua vay tín dụng?
Bởi máy tính cần phải số hóa được các tiêu chí đưa ra, chúng chỉ xử lý và phân tích xem các con số của người dùng là lớn hay nhỏ để có thể xem đó là “tiềm năng”.
Như vậy, nếu khách hàng có nhiều tiền nhưng họ không vay tín dụng thì công ty tín dụng sẽ ít lợi nhuận, nhưng ngược lại những người hay vay tiền lại là đối tượng mang lại lợi nhuận lớn hơn, đổi lại tỷ lệ trả tiền của họ có thể thấp hơn, dẫn tới rủi ro cao hơn.
“Từ thuở khai sinh, các thuật toán ra đời để giải quyết mục tiêu số hóa khác nhau của người dùng, chứ không phải để đánh giá công bằng bản chất của họ”, Solon Barocas, trợ lý giáo sư tại đại học Cornell cho biết. Anh là chuyên gia trong lĩnh vực kiểm soát "yếu tố công bằng” của AI.
Như vậy, nếu thuật toán phát hiện ra đối tượng người dùng thích vay tiền và vay nhiều tiền trong quá khứ, nó sẽ kết luận họ là đối tượng “tiềm năng” cho công ty tín dụng. Tuy nhiên, trên thực tế các đối tượng này lại là đối tượng cần tránh xa do rủi ro mà họ mang lại.
Do các vấn đề trên mang tính lựa chọn và cả triết học (đâu là lựa chọn đúng, đâu là sai), xử lý dữ liệu đầu vào tốt có vẻ vẫn là cách khả thi hơn để giải quyết sự thiên vị của máy tính.
Dữ liệu cung cấp bị thiên vị
Có hai cách mà sự thiên vị thể hiện trong dữ liệu cần xử lý: Hoặc dữ liệu bạn thu thập không thể hiện đúng thực tế, hoặc nó phản ánh những định kiến hiện có.
Trường hợp đầu tiên có nhiều khả năng xảy ra. Ví dụ, nếu một thuật toán học sâu được cung cấp nhiều hình ảnh về khuôn mặt có màu da sáng hơn so với khuôn mặt có màu da tối, hệ thống nhận diện khuôn mặt chắc chắn sẽ cho rằng gương mặt tối là “không tốt bằng”.
Trường hợp thứ hai đã xảy ra khi Amazon phát hiện ra công cụ tuyển dụng nội bộ của họ liên tục sa thải các ứng cử viên nữ. Bởi nó được học về các quyết định tuyển dụng trong lịch sử công ty, vốn ưa thích đàn ông hơn phụ nữ, nên nó đã chọn cách làm tương tự.
Sự thiên vị có thể xuất hiện trong giai đoạn chuẩn bị dữ liệu, tức việc chọn thuộc tính của đối tượng cho thuật toán xem xét. Ví dụ như trong việc đưa ra các tiêu chí cho “khách hàng tiềm năng” của công ty tín dụng trên, các thông số có thể là tuổi tác, thu nhập, số lần đã trả nợ. Trong trường hợp của Amazon, các thông số có thể là giới tính, trình độ học vấn, số năm kinh nghiệm.
Chính vì các thông số đó dễ bị nhầm lẫn và không hoàn toàn đánh giá đúng đối tượng là con người, việc chọn ra bộ thông số phù hợp với nhu cầu người dùng và đưa cho máy tính xử lý sao cho kết quả ra công bằng là không thể đạt được.
AI có thể đưa ra đúng đối tượng mà bạn mong muốn, nhưng nó chắc chắn sẽ mang tính thiên vị khi loại ra những đối tượng khác.
Rất khó khắc phục sự thiên vị của AI
Ngay cả chúng ta, những con người tạo ra máy móc cũng mang tính thiên vị rất cao. Do đó, có những nguyên nhân căn bản bên trong mang tính triết học mà ngay cả con người còn chưa vượt qua được, huống hồ máy móc.
Đầu tiên là việc không lường trước cái chưa biết. Khi thả bom nguyên tử xuống Nhật Bản, người Mỹ chưa nghĩ tới bụi phóng xạ sẽ còn tồn tại và gây ung thư cho rất nhiều người sau này. Hoặc khi tìm ra xăng dầu vào đầu thế kỉ XX, chưa ai từng nghĩ đến vấn đề nóng lên toàn cầu mà ngày nay chúng ta phải đối mặt.
Mọi vật đều có liên quan ít nhiều đến nhau, các thông số đặc trưng của đối tượng này sớm muộn cũng sẽ bị ảnh hưởng bởi thông số đặc trưng của đối tượng khác.
Các kĩ sư của Amazon không ngốc tới mức không lường trước sự thiên vị của AI mà họ xây dựng. Họ đã lập trình để nó bỏ qua các cụm từ về giới tính như “dành cho nam giới”, “của phụ nữ”.
Tuy nhiên người ta sớm phát hiện rằng hệ thống ngôn ngữ của nhân loại hết sức đáng sợ. Các cụm từ khác ám chỉ về giới tính đã được cỗ máy đưa vào dữ liệu cần học như “đao thủ” (100% các đao thủ trong lịch sử là nam giới) hoặc “nội trợ” đã biến khối dữ liệu đầu vào trở nên thiên vị.
Đâu là công bằng?
Chắc chắn rất khó để định nghĩa “sự công bằng” trong xã hội, ngay cả trong triết học cũng không có khái niệm thuyết phục về "tính công bằng”. Đó là lý do các hệ thống pháp luật luôn có kẽ hở và suốt chiều dài lịch sử, loài người luôn tìm kiếm một tầng lớp, một vật thể nào đó gánh hết “bất công” của xã hội như nô lệ, súc vật, máy móc.
Đối với khoa học, “công bằng” chỉ đơn giản là sự cân bằng các đại lượng. Chính sự khác nhau rất lớn giữa 2 khái niệm “công bằng” trong toán học và thực tế xã hội, mà A.I còn lâu mới có thể trở nên công bằng như cái cách mà người ta mong muốn, vì suy cho cùng, con người còn chưa xác định rõ cái “công bằng” mà họ muốn ở đây là gì.
Như trong bài toán của Amazon, đôi khi đúng là các nhân viên nam giới mạnh hơn nhân viên nữ và sẽ phù hợp hơn cho công việc. Tôi mạnh khỏe hơn, tôi được tuyển dụng, chân lý đó chẳng phải đã có từ thuở chúng ta còn ăn lông ở lỗ hay sao? Như vậy, việc máy tính loại ra các nhân viên nữ tuy sai về mặt đạo đức công bằng xã hội , nhưng về mặt lợi ích kinh tế thì hoàn toàn đúng.
Theo Zing
相关文章
Nhận định, soi kèo Chadormalou vs Sepahan, 18h30 ngày 21/1: Khó cho khách
Hồng Quân - 21/01/2025 05:25 Nhận định bóng đ2025-01-24Nghiên cứu mới của Trường Đại học Y tế công cộng được hỗ trợ bởi Quỹ Phòng chống tác hại thuốc lá và Tổ chức Y tế Cộng đồng toàn cầu Vital Strategies mới công bố cũng cho thấy, có đến 96% học sinh nhận thức được sự tồn tại của thuốc lá điện tử.
Đặc biệt, 14% từng sử dụng thử thuốc lá điện tử và 7% đang sử dụng trong 30 ngày qua. Tỷ lệ này đối với thuốc lá nung nóng tương ứng là 1,8% và 1%. Nghiên cứu được tiến hành trong giai đoạn tháng 10-12/2023, với sự tham gia của 3.801 học sinh từ lớp 6 đến lớp 12 tại 11 tỉnh, thành ở Việt Nam.
Giáo sư Hoàng Văn Minh, Hiệu trưởng Trường Đại học Y tế Công cộng, cho rằng, đây là xu hướng đáng lo ngại, vì nó có thể đảo ngược những nỗ lực kiểm soát việc sử dụng thuốc lá ở thanh thiếu niên đã được triển khai quyết liệt trong nhiều năm qua.
"Mức độ sử dụng thuốc lá điện tử và thuốc lá nung nóng trong giới trẻ Việt Nam đang ở mức cao, đặc biệt khi so sánh với các chỉ số về sử dụng thuốc lá truyền thống", GS Minh nói.
Tổ chức Y tế Thế giới cũng khẳng định không có bằng chứng nào chứng minh rằng thuốc lá điện tử, thuốc lá nung nóng ít gây hại hơn các sản phẩm thuốc lá điếu thông thường. Chúng đều chứa nicotine là chất gây nghiện cao, gây hại đến sức khỏe.
Thực tế cho thấy, các quốc gia cho phép các sản phẩm thuốc lá điện tử, thuốc lá nung nóng, ban hành các chính sách về cấm bán cho trẻ vị thành niên đã thất bại trong việc ngăn chặn giới trẻ sử dụng.
Tại Mỹ, trong giai đoạn 2017-2019, tỷ lệ sử dụng thuốc lá điện tử tăng vọt từ 11,7% lên 27,5% ở học sinh trung học cơ sở, và từ 3,3% lên 10,5% ở học sinh trung học phổ thông. Tương tự, tại Anh, sử dụng thuốc lá điện tử ở trẻ em gái 15 tuổi đã tăng từ 10% vào năm 2018 lên 21% vào năm 2021.
Ngành công nghiệp thuốc lá nhắm đến giới trẻ
Mới đây, STOP công bố tài liệu cho thấy ngành công nghiệp thuốc lá đã có chiến lược gây ảnh hưởng nhằm đạt được sự ủng hộ đối với sản phẩm thuốc lá nung nóng IQOS.
STOP là mạng lưới các tổ chức y tế công cộng và học thuật, kết nối các chuyên gia để theo dõi mọi khía cạnh của ngành công nghiệp thuốc lá nhằm phát hiện, vạch trần và chống lại những nỗ lực không ngừng nghỉ của ngành công nghiệp thuốc lá hoạt động trên toàn cầu.
Theo đó, ngành công nghiệp thuốc lá đã tuyên bố rằng các sản phẩm "thuốc lá không khói", bao gồm IQOS (I quit ordinary smoking) "một ngày nào đó sẽ thay thế thuốc lá điếu". IQOS chỉ dành cho những người hút thuốc đã trưởng thành, những người sẽ tiếp tục hút thuốc lá.
Tuy nhiên, bằng chứng cho thấy ngành công nghiệp thuốc lá có kế hoạch lớn hơn.
Theo phân tích của STOP, ngành công nghiệp thuốc lá đã lên kế hoạch cho một chiến lược đa hướng nhằm tác động đến các nhà hoạch định chính sách ở địa phương, khu vực, quốc gia và thậm chí ở cấp độ quốc tế.
Mục đích tác động đến các nhà hoạch định chính sách, chuyên gia y tế, doanh nghiệp và người tiêu dùng nhằm tạo ra sự chấp nhận rộng rãi đối với IQOS. Các đối tượng được nhắm đến trong kế hoạch này bao gồm các chính trị gia, các nhóm y tế và các tập đoàn khách sạn….
Ngành công nghiệp thuốc lá đang tìm cách "lách" các quy định quản lý bằng việc giới thiệu các sản phẩm mới như thuốc lá điện tử, thuốc lá nung nóng, nhằm đối phó với các quy định ngày càng nghiêm ngặt đối với thuốc lá truyền thống.
Thực tế, cộng đồng y tế toàn cầu đã ghi nhận một số trường hợp tổn thương phổi do thuốc lá điện tử. Theo đó, các sản phẩm thuốc lá mới được cho là có thể gây ra những tác động tiêu cực đến sức khỏe, đặc biệt đối với não bộ đang phát triển của trẻ vị thành niên.
"Cuộc chiến với thuốc lá mới là cuộc chiến cam go. Chỉ trong 5 năm, tỷ lệ sử dụng thuốc lá điện tử đã vượt lên rất cao. Kết quả phòng chống thuốc lá trong 30 năm sẽ bị thiêu rụi trong vòng 3 năm nếu chúng ta cho phép thuốc lá điện tử, thuốc lá nung nóng vào Việt Nam.
Những thành tựu mà chúng ta đã đạt được sẽ nhanh chóng bị xóa bỏ nếu chúng ta không ngăn chặn được thuốc lá điện tử", ông Nguyễn Trọng Khoa, Phó Cục trưởng Cục Quản lý Khám, chữa bệnh nói tại một hội thảo vào tháng 8.
Điều này đặt ra nhu cầu cấp bách Việt Nam cần có giải pháp sớm và mạnh mẽ để ngăn chặn làn sóng của thuốc lá điện tử trong giới trẻ.
'/>- '/>
5 sự thật bạn chưa biết về ung thư phổi
Sốt rét là một bệnh truyền nhiễm, do ký sinh trùng plasmodium gây nên (Ảnh: CDC Quảng Bình).
Ngay khi phát hiện ca bệnh, CDC Quảng Bình chỉ đạo Trung tâm Y tế huyện Bố Trạch giám sát các trường hợp tiếp xúc gần với bệnh nhân, đặc biệt là các thành viên trong gia đình và khu vực xung quanh nhà ở của bệnh nhân trong vòng 30 ngày, kể từ ngày bệnh nhân khởi phát bệnh, kịp thời xử lý không để dịch bệnh lây lan trong cộng đồng.
Theo bác sĩ Huỳnh Công Hùng, Trưởng Khoa khám, điều trị lao, bệnh phổi và phòng, chống bệnh truyền nhiễm, CDC Quảng Bình, sốt rét là một bệnh truyền nhiễm, do ký sinh trùng plasmodium gây nên, còn muỗi anophen là tác nhân lây lan dịch bệnh.
Các triệu chứng của bệnh sốt rét bao gồm: Sốt cao, đau đầu, nôn mửa, mệt mỏi và đau cơ. Các triệu chứng này thường xuất hiện sau khi bệnh bị muỗi đốt từ 8-25 ngày. Một số bệnh nhân có thể xuất hiện triệu chứng sưng phù và kém hấp thụ trong suốt thời gian bệnh diễn tiến. Nếu không được điều trị kịp thời, có thể dẫn đến tử vong.
'/>Nhận định, soi kèo Sukhothai vs Port FC, 18h00 ngày 20/1: Cửa dưới ‘ghi điểm’
Hư Vân - 20/01/2025 04:30 Nhận định bóng đá g2025-01-24Buổi tọa đàm với sự tham dự của 2 chuyên gia (Ảnh: Mạnh Quân).
Tuy nhiên, việc lựa chọn và sử dụng các loại thuốc, vật tư y tế trong tủ thuốc gia đình mùa bão lũ sao cho hiệu quả và an toàn không phải ai cũng nắm rõ. Một tủ thuốc đầy đủ nhưng không được bảo quản đúng cách hoặc sử dụng sai thuốc có thể dẫn đến những hậu quả khó lường.
Để hỗ trợ người dân trang bị kiến thức cần thiết để có thể tự chăm sóc sức khỏe trong mùa bão lũ, 9h sáng nay 30/9, báo Dân trí phối hợp Hệ thống Nhà thuốc và tiêm chủng FPT Long Châu tổ chức buổi tọa đàm với chủ đề "Tủ thuốc gia đình: Lá chắn bệnh tật mùa bão lũ".
Buổi tọa đàm có sự tham gia của 2 khách mời:
- PGS.TS.BS Nguyễn Tiến Dũng, nguyên Trưởng khoa Nhi, Bệnh viện Bạch Mai.
- PGS.TS.DS Nguyễn Tuấn Dũng, nguyên Trưởng bộ môn Dược Lâm Sàng, Khoa Dược, Đại học Y Dược TPHCM.
Chương trình có sự đồng hành của Hệ thống Nhà thuốc và tiêm chủng FPT Long Châu.
Công ty cổ phần dược phẩm FPT Long Châu - trực thuộc Công ty cổ phần Bán lẻ kỹ thuật số FPT - Thành viên Tập đoàn FPT.
FPT Long Châu hiện sở hữu hệ thống hơn 1.800 nhà thuốc tại khắp 63 tỉnh thành trên cả nước và hơn 100 trung tâm tiêm chủng.
'/>
最新评论