CHÚNG TÔI LÀ đã ban hành hướng dẫn mới về đạo đức và quản trị của các mô hình đa phương thức lớn (LMM) để sử dụng phù hợp nhằm thúc đẩy và bảo vệ sức khỏe của người dân. LMM là một loại hình thế hệ phát triển nhanh trí tuệ nhân tạo Công nghệ (AI) có năm ứng dụng rộng rãi cho sức khỏe in
1. Chẩn đoán và chăm sóc lâm sàng, chẳng hạn như trả lời các câu hỏi bằng văn bản của bệnh nhân;
2. Sử dụng theo hướng dẫn của bệnh nhân, chẳng hạn như để điều tra các triệu chứng và điều trị;
3. Các nhiệm vụ văn thư và hành chính, chẳng hạn như ghi chép và tóm tắt các lần khám bệnh nhân trong hồ sơ sức khỏe điện tử;
4. Giáo dục y khoa và điều dưỡng, bao gồm việc cung cấp cho học viên những cuộc gặp gỡ bệnh nhân mô phỏng, và;
5. Nghiên cứu khoa học và phát triển thuốc, bao gồm cả việc xác định các hợp chất mới.
Tuy nhiên, những ứng dụng này trong chăm sóc sức khỏe có nguy cơ tạo ra các tuyên bố sai, không chính xác, thiên vị hoặc không đầy đủ, có thể gây hại cho những người sử dụng thông tin đó trong việc đưa ra quyết định về sức khỏe. Hơn nữa, LMM có thể được đào tạo về dữ liệu có chất lượng kém hoặc sai lệch, cho dù theo chủng tộc, dân tộc, tổ tiên, giới tính, bản dạng giới hoặc độ tuổi. Ngoài ra còn có những rủi ro lớn hơn đối với các hệ thống y tế, chẳng hạn như khả năng tiếp cận và khả năng chi trả của các LMM hoạt động tốt nhất. LMM cũng có thể khuyến khích 'sự thiên vị tự động hóa' của các chuyên gia chăm sóc sức khỏe và bệnh nhân, theo đó các lỗi bị bỏ qua mà lẽ ra đã được xác định hoặc các lựa chọn khó khăn được giao cho LMM một cách không đúng cách. LMM, giống như các dạng khác của AI, cũng dễ gặp rủi ro an ninh mạng có thể gây nguy hiểm cho thông tin bệnh nhân hoặc độ tin cậy của các thuật toán này và việc cung cấp dịch vụ chăm sóc sức khỏe trên phạm vi rộng hơn.
Do đó, để tạo ra LMM an toàn và hiệu quả, WHO đã đưa ra khuyến nghị cho các chính phủ và nhà phát triển LMM.
Các chính phủ có trách nhiệm chính trong việc thiết lập các tiêu chuẩn cho việc phát triển và triển khai LMM cũng như việc tích hợp và sử dụng chúng cho các mục đích y tế và y tế công cộng. Chính phủ nên đầu tư vào hoặc cung cấp cơ sở hạ tầng công cộng hoặc phi lợi nhuận, bao gồm sức mạnh tính toán và bộ dữ liệu công cộng, có thể truy cập được đối với các nhà phát triển trong khu vực công, tư nhân và phi lợi nhuận, yêu cầu người dùng tuân thủ các nguyên tắc và giá trị đạo đức trong trao đổi quyền truy cập.
· Sử dụng luật, chính sách và quy định để đảm bảo rằng LMM và ứng dụng được sử dụng trong chăm sóc sức khỏe và y học, bất kể rủi ro hoặc lợi ích liên quan đến AI công nghệ, đáp ứng các nghĩa vụ đạo đức và tiêu chuẩn nhân quyền có ảnh hưởng đến, chẳng hạn như nhân phẩm, quyền tự chủ hoặc quyền riêng tư của một người.
· Chỉ định một cơ quan quản lý hiện có hoặc mới để đánh giá và phê duyệt LMM và các ứng dụng nhằm mục đích sử dụng trong chăm sóc sức khỏe hoặc y học - khi nguồn lực cho phép.
· Đưa ra các đánh giá tác động và kiểm tra sau phát hành bắt buộc, bao gồm cả việc bảo vệ dữ liệu và nhân quyền, bởi các bên thứ ba độc lập khi LMM được triển khai trên quy mô lớn. Việc kiểm toán và đánh giá tác động phải được công bố
và phải bao gồm các kết quả và tác động được phân chia theo loại người dùng, chẳng hạn như theo độ tuổi, chủng tộc hoặc tình trạng khuyết tật.
· LMM không chỉ được thiết kế bởi các nhà khoa học và kỹ sư. Người dùng tiềm năng và tất cả các bên liên quan trực tiếp và gián tiếp, bao gồm nhà cung cấp dịch vụ y tế, nhà nghiên cứu khoa học, chuyên gia chăm sóc sức khỏe và bệnh nhân, nên được tham gia ngay từ giai đoạn đầu của quá trình điều trị. AI phát triển theo thiết kế có cấu trúc, toàn diện, minh bạch và có cơ hội nêu lên các vấn đề đạo đức, bày tỏ mối quan ngại và cung cấp ý kiến đầu vào cho AI đơn đang được xem xét.
LMM được thiết kế để thực hiện các nhiệm vụ được xác định rõ ràng với độ chính xác và độ tin cậy cần thiết nhằm nâng cao năng lực của hệ thống y tế và nâng cao lợi ích của bệnh nhân. Các nhà phát triển cũng phải có khả năng dự đoán và hiểu được các kết quả thứ cấp tiềm ẩn.
***
nguồn:
WHO 2024. Đạo đức và quản trị trí tuệ nhân tạo vì sức khỏe: hướng dẫn về các mô hình đa phương thức lớn. Có sẵn tại https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
