Thứ sáu, 18/10/2024 | 12:10 - GMT+7

Bộ Khoa học và Công nghệ hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo có trách nhiệm

Bộ Khoa học và Công nghệ đã ban hành Quyết định số 1290/QĐ-BKHCN ngày 11/06/2024 về việc hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm.

21/06/2024 - 15:11
Tài liệu hướng dẫn được ban hành nhằm thúc đẩy sự quan tâm của các bên liên quan trong việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng trí tuệ nhân tạo (TTNT) ở Việt Nam một cách có trách nhiệm. Đồng thời, thúc đẩy việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng TTNT một cách an toàn và có trách nhiệm, đồng thời hạn chế tối đa các ảnh hưởng tiêu cực cho con người và cộng đồng; Thúc đẩy việc chia sẻ kinh nghiệm trong hoạt động nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng TTNT nhằm đạt được sự tin tưởng của người dùng và xã hội đối với TTNT cũng chính là tạo điều kiện thuận lợi cho việc nghiên cứu, phát triển TTNT ở Việt Nam.  
Ảnh minh hoạ (Nguồn: IStock)
Tài liệu hướng dẫn nêu ra một số nguyên tắc chung cần chú ý trong nghiên cứu, phát triển các hệ thống TTNT một cách có trách nhiệm và khuyến nghị tự nguyện tham khảo, áp dụng trong quá trình nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống TTNT. Tài liệu dành cho đối tượng là các cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống TTNT được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.  
Tài liệu đã đưa ra 9 nguyên tắc nghiên cứu, phát triển các hệ thống TTNT có trách nhiệm và hướng dẫn thực hiện, bao gồm:
Một là, tinh thần hợp tác, thúc đẩy đổi mới sáng tạo: Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống TTNT. Cụ thể, các nhà phát triển cần xem xét tính liên kết và khả năng tương tác giữa các hệ thống TTNT của mình với các hệ thống TTNT khác thông qua việc xem xét tính đa dạng của các hệ thống TTNT nhằm: (1) tăng cường lợi ích của hệ thống TTNT thông qua quá trình kết nối các hệ thống TTNT; và (2) tăng cường sự phối hợp để kiểm soát rủi ro. 
Hai là, tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống TTNT và khả năng giải thích các phân tích có liên quan. Theo đó, các hệ thống TTNT tuân theo nguyên tắc này thường là các hệ thống có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của người dùng hoặc bên thứ ba liên quan. Khi đó, các nhà phát triển cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống TTNT cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả người dùng.  
Ba là, khả năng kiểm soát: Nhà phát triển cần chú ý đến khả năng kiểm soát hệ thống TTNT. Để đánh giá các rủi ro liên quan đến khả năng kiểm soát của hệ thống TTNT, các nhà phát triển cần thực hiện đánh giá trước (là quá trình đánh giá liệu hệ thống có đáp ứng với các yêu cầu kỹ thuật và tiêu chuẩn tương ứng). Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế.
Ngoài ra, để đảm bảo khả năng kiểm soát hệ thống TTNT, các nhà phát triển nên chú ý đến việc giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng…) được thực hiện bởi con người hay các hệ thống TTNT đáng tin cậy khác.  
Bốn là, an toàn: Nhà phát triển cần đảm bảo rằng hệ thống TTNT sẽ không gây tổn hại đến tính mạng, thân thể hoặc tài sản của người dùng hoặc bên thứ ba kể cả thông qua trung gian. Về cơ bản, khuyến khích nhà phát triển tham khảo các tiêu chuẩn quốc tế có liên quan và chú ý đến những điểm sau đây, trong đó đặc biệt lưu ý các khả năng đầu ra hoặc chương trình thay đổi do quá trình huấn luyện hệ thống TTNT
Năm là, bảo mật: Các nhà phát triển cần chú ý đến tính bảo mật của hệ thống TTNT. Bên cạnh việc tuân thủ các văn bản, hướng dẫn và thực hiện các biện pháp bảo mật thông tin theo quy định (của các cơ quan chuyên môn, có thẩm quyền), các nhà phát triển cần chú ý đến những điểm sau đây, trong đó đặc biệt lưu ý các khả năng đầu ra hoặc chương trình thay đổi do quá trình huấn luyện hệ thống TTNT
Sáu là, quyền riêng tư: Nhà phát triển cần đảm bảo rằng hệ thống TTNT không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm quyền riêng tư về không gian (sự yên bình trong cuộc sống cá nhân), quyền riêng tư về thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Các nhà phát triển cần áp dụng các quy định, hướng dẫn hiện hành (của cơ quan chức năng, cơ quan có thẩm quyền); có thể tham khảo các tiêu chuẩn, hướng dẫn quốc tế về quyền riêng tư; và thực hiện các thêm hướng dẫn sau đây, trong đó đặc biệt lưu ý các khả năng đầu ra hoặc chương trình thay đổi do quá trình huấn luyện hệ thống TTNT
Bảy là, tôn trọng quyền và phẩm giá con người: Khi phát triển các hệ thống TTNT có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan. Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống TTNT. Các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống TTNT không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam (ví dụ, các giá trị bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo…).  
Tám là, hỗ trợ người dùng: Nhà phát triển cần đảm bảo rằng hệ thống TTNT sẽ hỗ trợ người dùng và tạo điều kiện cho họ cơ hội lựa chọn theo cách phù hợp. Để hỗ trợ người dùng, các nhà phát triển hệ thống TTNT cần chú ý các điểm sau đây: Tạo ra các giao diện sẵn sàng để cung cấp thông tin kịp thời và phù hợp nhằm giúp người dùng đưa ra quyết định và sử dụng thuận tiện; Xem xét cung cấp các chức năng cho người dùng cơ hội lựa chọn kịp thời và phù hợp (ví dụ, các cài đặt mặc định, các tùy chọn dễ hiểu, phản hồi, cảnh báo khẩn cấp, xử lý lỗi); Thực hiện các biện pháp giúp hệ thống TTNT dễ sử dụng hơn cho những người dễ bị tổn thương trong xã hội (người già, người khuyết tật).
Ngoài ra, các nhà phát triển nên cung cấp cho người dùng các thông tin cần thiết trong đó lưu ý các khả năng đầu ra hoặc chương trình thay đổi do quá trình huấn luyện hệ thống TTNT; và hướng dẫn người sử dụng cách thức sử dụng hệ thống TTNT rõ ràng để tránh xảy ra nguy hiểm không mong muốn (như các điều kiện sử dụng hay các biện pháp giảm thiểu rủi ro…).  
Chín là, trách nhiệm giải trình: Nhà phát triển cần thực hiện trách nhiệm giải trình của mình đối với các bên liên quan bao gồm cả người dùng hệ thống TTNT. Các nhà phát triển cần thực hiện trách nhiệm giải trình đối với các hệ thống TTNT mà họ đã phát triển để đảm bảo niềm tin của người dùng. Cụ thể, các nhà phát triển cần cung cấp cho người dùng thông tin để giúp họ lựa chọn và sử dụng hệ thống TTNT.
Ngoài ra, để tăng sự chấp nhận của xã hội đối với các hệ thống TTNT, bao gồm cả người dùng, sau khi thực hiện các hướng dẫn nêu trên, các nhà phát triển nên thực hiện thêm: (1) cung cấp cho người dùng thông tin và mô tả về đặc tính kỹ thuật của hệ thống TTNT mà họ phát triển, các thuật toán, các cơ chế đảm bảo an toàn…; và (2) lắng nghe các quan điểm và đối thoại với các bên liên quan.
Ngoài ra, các nhà phát triển cũng cần thực hiện chia sẻ thông tin và hợp tác chặt chẽ với các nhà cung cấp để đảm bảo cập nhật và giải quyết các vấn đề liên quan trong quá trình cung cấp dịch vụ và sử dụng các hệ thống TTNT.
Xem chi tiết: tại đây
Tuệ Lâm

Xem thêm

Tổng số lượt truy cập :
  • 1
  • 7
  • 3
  • 9
  • 4
  • 7
  • 3
  • 9