Chính sách, pháp luật

CHÍNH SÁCH VỀ SẢN PHẨM, DỊCH VỤ CÔNG NGHỆ SỐ ỨNG DỤNG TRÍ TUỆ NHÂN TẠO

28/11/2022 11:19 SA

 1. Kinh nghiệm thế giới về quản lý đối với sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo

1.1. OECD[1]
Tổ chức OECD đã phát triển các nguyên tắc TTNT đầu tiên của liên chính phủ (được nhiều quốc gia áp dụng vào năm 2019). Các nguyên tắc của OECD thúc đẩy sáng tạo, đáng tin cậy và minh bạch có trách nhiệm bởi TTNT tôn trọng quyền con người, pháp quyền, sự đa dạng, và các giá trị dân chủ, đồng thời thúc đẩy tăng trưởng toàn diện, phát triển bền vững và hạnh phúc.
1.2.         WEF[2]
Tháng 6/2020, WEF hợp tác với Deloitte và Văn phòng TTNT của UK đã phát triển các hướng dẫn cho khu vực công trong mua sắm các giải pháp TTNT, giúp các chính phủ xây dựng các phương thức mua sắm hàng đầu, có thể thiết lập các tiêu chuẩn mới cho việc mua sắm và sử dụng TTNT hiệu quả và có đạo đức, đồng thời đẩy nhanh việc áp dụng TTNT trong khu vực công. Việc phát triển một cách tiếp cận mới để tiếp thu các công nghệ mới nổi như TTNT sẽ không chỉ đẩy nhanh việc áp dụng TTNT trong quản trị mà còn thúc đẩy sự phát triển của các tiêu chuẩn đạo đức trong phát triển và triển khai TTNT. Các phương pháp tiếp cận mua sắm đổi mới có tiềm năng thúc đẩy sự đổi mới, tạo ra thị trường cạnh tranh cho các hệ thống TTNT và duy trì niềm tin của công chúng vào việc áp dụng TTNT của khu vực công.
1.3.         Liên minh Châu Âu[3]
 Ngày 21/4/2021, Liên minh Châu Âu mới đây đã công bố bản đề xuất dài 108 trang về các quy định nghiêm ngặt để kiểm soát việc sử dụng trí tuệ nhân tạo trước khi công nghệ này trở thành xu hướng phổ biến. Liên minh Châu Âu coi đây là những quy định mang tính bắt buộc nhằm phát triển các chuẩn mực toàn cầu để bảo đảm TTNT có thể tin cậy được.
Đây là chính sách lần đầu tiên xuất hiện để hướng dẫn các công ty và chính phủ cách sử dụng TTNT. Dự thảo bộ luật đặt ra các giới hạn xung quanh việc sử dụng TTNT trong một loạt các hoạt động, từ ô tô tự lái đến các quyết định tuyển dụng nhân sự, cho vay ngân hàng, tuyển sinh và chấm điểm các kỳ thi. Bộ luật cũng bao gồm việc sử dụng TTNT trong hệ thống hành pháp và toà án – những lĩnh vực được coi là “rủi ro cao” bởi chúng có thể đe dọa đến sự an toàn hoặc các quyền cơ bản của mọi người.
Một số ứng dụng sẽ bị cấm hoàn toàn, bao gồm nhận diện khuôn mặt trực tiếp tại nơi công cộng, mặc dù có một số trường hợp ngoại lệ vì an ninh quốc gia và các mục đích khác.
Các quy định có ảnh hưởng sâu rộng tới các công ty công nghệ lớn – những công ty đã đổ nguồn lực vào việc phát triển trí tuệ nhân tạo – bao gồm Amazon, Google, Facebook và Microsoft, nhưng đồng thời cũng là vấn đề của những công ty khác có sử dụng phần mềm này để phát triển y học, thực hiện chính sách bảo hiểm và đánh giá mức độ tín dụng. Một số chính phủ đã sử dụng những phiên bản khác nhau của công nghệ này trong tư pháp hình sự và cung cấp các dịch vụ công
Các công ty vi phạm những quy định mới này khả năng sẽ đối mặt với khoản tiền phạt lên tới 6% doanh thu toàn cầu.
Các quy định của Liên minh châu Âu sẽ yêu cầu các công ty cung cấp TTNT trong những lĩnh vực có rủi ro cao phải cung cấp cho các nhà quản lý những bằng chứng về sự an toàn của nó, bao gồm các đánh giá rủi ro và tài liệu giải thích cách công nghệ đó đang đưa ra quyết định. Những công ty này cũng phải đảm bảo sự giám sát của con người đối với cách mà các hệ thống của họ được tạo ra và sử dụng.
Những công ty công nghệ lớn nhất giờ đang phải đối mặt với sự đánh giá rộng rãi hơn từ các chính phủ trên thế giới, mỗi chính phủ có các chính sách và sự thúc đẩy riêng để điều chỉnh quyền lực của lĩnh vực công nghệ số.
1.4. Vương quốc Anh[4]
Vương quốc Anh (UK) đưa ra hướng dẫn sử dụng TTNT trong khu vực công. Theo hướng dẫn của UK, với các dự án TTNT cần cân nhắc nhiều yếu tố liên quan đến đạo đức, an toàn của TTNT, pháp lý và hành chính, bao gồm:
+ Chất lượng dữ liệu (sự thành công của dự án TTNT được xác định phụ thuộc vào chất lượng dữ liệu);
+ Công bằng (mô hình đào tạo và thử nghiệm, hệ thống TTNT được triển khai có trách nhiệm và không thiên vị);
+ Trách nhiệm (xem xét ai chịu trách nhiệm cho từng yếu tố của đầu ra mô hình, cách thức người thiết kế và người thực hiện hệ thống TTNT);
+ Riêng tư (tuân thủ chính sách dữ liệu phù hợp, như quy định về bảo vệ dữ liệu cá nhân);
+ Khả năng giải thích và minh bạch (những người liên quan có thể biết làm thế nào mô hình TTNT đạt được quyết định của nó);
+ Chi phí (xem xét ứng dụng TTNT sẽ mất bao nhiêu chi phí xây dựng, vận hành và bảo trì, cơ sở hạ tầng TTNT, đào tạo và huấn liện nhân viên và liệu việc ứng dụng AI có thể mang lại các lợi ích tốt vượt trội hơn và tiết kiệm hơn không).
2. Sự cần thiết phải xây dựng chính sách quản lý đối với sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo
Trong xu thế bùng nổ của dữ liệu số, ngày càng nhiều sản phẩm, dịch vụ công nghệ số được ứng dụng công nghệ trí tuệ nhân tạo. Các sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo mang lại nhiều lợi ích: Đối với cơ quan nhà nước, sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo có tiềm năng vô cùng hữu ích trong việc tăng hiệu quả của quy trình của chính phủ như trả lời tự động, điền và tìm kiếm tài liệu, yêu cầu định tuyến, dịch và soạn thảo tài liệu, có khả năng thay đổi tích cực các hoạt động của cơ quan nhà nước. Nó có khả năng yêu cầu các tổ chức thích ứng với nhu cầu và kỳ vọng đang phát triển của người dân, đồng thời thay đổi bối cảnh quản lý và lập pháp để mở đường cho các ứng dụng mới của công nghệ.
Đối với con người, sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo có thể giúp con người nhờ cải thiện hệ thống y tế, hệ thống giao thông, các sản phẩm và dịch vụ phù hợp, rẻ hơn và lâu dài hơn, có thể tạo điều kiện để người dân tiếp cận thông tin, giáo dục và đào tạo. sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo cũng có thể làm cho nơi làm việc an toàn hơn vì robot có thể được sử dụng cho các phần công việc nguy hiểm và mở ra các vị trí công việc mới khi các ngành công nghiệp do trí tuệ nhân tạo phát triển và thay đổi.
Đối với các doanh nghiệp, sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo có tiềm năng thay đổi hoàn toàn cách thức hoạt động của tổ chức và có thể cho phép phát triển một thế hệ sản phẩm và dịch vụ mới.
Tuy nhiên, sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo cũng đặt ra những thách thức đáng kể về đạo đức, lòng tin và pháp lý, như liên quan đến bảo mật, tính mạnh mẽ và khả năng phục hồi của quyền riêng tư và bảo vệ dữ liệu của hệ thống Trí tuệ nhân tạo; minh bạch và trách nhiệm giải trình của các hệ thống Trí tuệ nhân tạo; sự công bằng, phân biệt và khả năng giải thích của các hệ thống Trí tuệ nhân tạo và trách nhiệm pháp lý. Điều này đòi hỏi phải nhận diện được các tác động tiêu cực và không mong muốn của các sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo trong sản xuất, kinh tế, đời sống và xã hội. Từ đó, xác định các công cụ/chính sách quản lý nhà nước cần thực hiện để giảm thiếu tác động tiêu cực do trí tuệ nhân tạo mang lại.
3. Nội dung chính sách
Quy định về việc các sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo khi đưa ra thị trường cần được đánh giá để tạo niềm tin, bảo đảm kiểm soát những rủi ro và các tác động tiêu cực và giao Chính phủ quy định chi tiết theo thẩm quyền (Khái niệm; danh mục các loại hệ thống/sản phẩm trí tuệ nhân tạo rủi ro cao theo từng lĩnh vực để có các quy định kiểm soát các vấn đề rủi ro, đảm bảo độ tin cậy; quản lý, đánh giá, thử nghiệm; yêu cầu về công nghệ, kỹ thuật, tính năng; tác động về kinh tế xã hội; cách thức đánh giá; môi trường thử nghiệm; bộ dữ liệu mẫu; cung cấp, sử dụng sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo).
4. Vai trò của chính sách
- Chính sách quản lý sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo sẽ giúp giảm thiểu những rủi ro có thể gặp phải do ứng dụng, triển khai sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo vào thực tiễn, giúp cho Nhà nước có biện pháp quản lý phù hợp với công nghệ này (việc quy định các chính sách này cũng phù hợp với kinh nghiệm của EU, OECD, Anh, WEF). Chi tiết trong Phụ lục Kinh nghiệm quốc tế kèm theo Báo cáo này.
- Người dùng thêm cơ hội được tiếp cận với các sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo, nâng cao chất lượng cuộc sống.
- Doanh nghiệp, tổ chức có sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo được tạo điều kiện để thương mại hóa các sản phẩm, dịch vụ của mình, thúc đẩy hoạt động nghiên cứu, sáng tạo các sản phẩm mới phục vụ nhu cầu xã hội.
Chính sách quản lý sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo giúp giảm thiểu những rủi ro có thể gặp phải do ứng dụng, triển khai sản phẩm, dịch vụ công nghệ số ứng dụng trí tuệ nhân tạo vào thực tiễn. Việc quy định các chính sách này cũng phù hợp với kinh nghiệm hiện nay của nhiều nước trên thế giới như EU, OECD, Anh, WEF, quản lý các sản phẩm công nghệ số trọng yếu của Hoa Kỳ, Trung Quốc./.
Tổ chức OECD đã phát triển các nguyên tắc TTNT đầu tiên của liên chính phủ (được nhiều quốc gia áp dụng vào năm 2019). Các nguyên tắc của OECD thúc đẩy sáng tạo, đáng tin cậy và minh bạch có trách nhiệm bởi TTNT tôn trọng quyền con người, pháp quyền, sự đa dạng, và các giá trị dân chủ, đồng thời thúc đẩy tăng trưởng toàn diện, phát triển bền vững và hạnh phúc.
Tháng 6/2020, WEF hợp tác với Deloitte và Văn phòng TTNT của UK đã phát triển các hướng dẫn cho khu vực công trong mua sắm các giải pháp TTNT, giúp các chính phủ xây dựng các phương thức mua sắm hàng đầu, có thể thiết lập các tiêu chuẩn mới cho việc mua sắm và sử dụng TTNT hiệu quả và có đạo đức, đồng thời đẩy nhanh việc áp dụng TTNT trong khu vực công. Việc phát triển một cách tiếp cận mới để tiếp thu các công nghệ mới nổi như TTNT sẽ không chỉ đẩy nhanh việc áp dụng TTNT trong quản trị mà còn thúc đẩy sự phát triển của các tiêu chuẩn đạo đức trong phát triển và triển khai TTNT. Các phương pháp tiếp cận mua sắm đổi mới có tiềm năng thúc đẩy sự đổi mới, tạo ra thị trường cạnh tranh cho các hệ thống TTNT và duy trì niềm tin của công chúng vào việc áp dụng TTNT của khu vực công.
 Ngày 21/4/2021, Liên minh Châu Âu mới đây đã công bố bản đề xuất dài 108 trang về các quy định nghiêm ngặt để kiểm soát việc sử dụng trí tuệ nhân tạo trước khi công nghệ này trở thành xu hướng phổ biến. Liên minh Châu Âu coi đây là những quy định mang tính bắt buộc nhằm phát triển các chuẩn mực toàn cầu để bảo đảm TTNT có thể tin cậy được.
Đây là chính sách lần đầu tiên xuất hiện để hướng dẫn các công ty và chính phủ cách sử dụng TTNT. Dự thảo bộ luật đặt ra các giới hạn xung quanh việc sử dụng TTNT trong một loạt các hoạt động, từ ô tô tự lái đến các quyết định tuyển dụng nhân sự, cho vay ngân hàng, tuyển sinh và chấm điểm các kỳ thi. Bộ luật cũng bao gồm việc sử dụng TTNT trong hệ thống hành pháp và toà án – những lĩnh vực được coi là “rủi ro cao” bởi chúng có thể đe dọa đến sự an toàn hoặc các quyền cơ bản của mọi người.
Một số ứng dụng sẽ bị cấm hoàn toàn, bao gồm nhận diện khuôn mặt trực tiếp tại nơi công cộng, mặc dù có một số trường hợp ngoại lệ vì an ninh quốc gia và các mục đích khác.
Các quy định có ảnh hưởng sâu rộng tới các công ty công nghệ lớn – những công ty đã đổ nguồn lực vào việc phát triển trí tuệ nhân tạo – bao gồm Amazon, Google, Facebook và Microsoft, nhưng đồng thời cũng là vấn đề của những công ty khác có sử dụng phần mềm này để phát triển y học, thực hiện chính sách bảo hiểm và đánh giá mức độ tín dụng. Một số chính phủ đã sử dụng những phiên bản khác nhau của công nghệ này trong tư pháp hình sự và cung cấp các dịch vụ công
Các công ty vi phạm những quy định mới này khả năng sẽ đối mặt với khoản tiền phạt lên tới 6% doanh thu toàn cầu.
Các quy định của Liên minh châu Âu sẽ yêu cầu các công ty cung cấp TTNT trong những lĩnh vực có rủi ro cao phải cung cấp cho các nhà quản lý những bằng chứng về sự an toàn của nó, bao gồm các đánh giá rủi ro và tài liệu giải thích cách công nghệ đó đang đưa ra quyết định. Những công ty này cũng phải đảm bảo sự giám sát của con người đối với cách mà các hệ thống của họ được tạo ra và sử dụng.
Những công ty công nghệ lớn nhất giờ đang phải đối mặt với sự đánh giá rộng rãi hơn từ các chính phủ trên thế giới, mỗi chính phủ có các chính sách và sự thúc đẩy riêng để điều chỉnh quyền lực của lĩnh vực công nghệ số.
Vương quốc Anh (UK) đưa ra hướng dẫn sử dụng TTNT trong khu vực công. Theo hướng dẫn của UK, với các dự án TTNT cần cân nhắc nhiều yếu tố liên quan đến đạo đức, an toàn của TTNT, pháp lý và hành chính, bao gồm:
+ Chất lượng dữ liệu (sự thành công của dự án TTNT được xác định phụ thuộc vào chất lượng dữ liệu);
+ Công bằng (mô hình đào tạo và thử nghiệm, hệ thống TTNT được triển khai có trách nhiệm và không thiên vị);
+ Trách nhiệm (xem xét ai chịu trách nhiệm cho từng yếu tố của đầu ra mô hình, cách thức người thiết kế và người thực hiện hệ thống TTNT);
+ Riêng tư (tuân thủ chính sách dữ liệu phù hợp, như quy định về bảo vệ dữ liệu cá nhân);
+ Khả năng giải thích và minh bạch (những người liên quan có thể biết làm thế nào mô hình TTNT đạt được quyết định của nó);
+ Chi phí (xem xét ứng dụng TTNT sẽ mất bao nhiêu chi phí xây dựng, vận hành và bảo trì, cơ sở hạ tầng TTNT, đào tạo và huấn liện nhân viên và liệu việc ứng dụng AI có thể mang lại các lợi ích tốt vượt trội hơn và tiết kiệm hơn không).


[3] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
[7] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206