Ứng dụng AI trong khu vực công: Đâu là điều cần lưu ý?

Theo TS Ngọc Anh, AI có khả năng xử lý khối lượng thông tin lớn, phân tích nhanh và đưa ra nhiều phương án cho công tác điều hành. Tuy nhiên, mức độ AI tham gia sâu vào hoạt động điều hành càng lớn thì yêu cầu về kiểm chứng, kiểm soát, công bằng và trách nhiệm giải trình càng phải được nâng cao.

Bà nhấn mạnh, việc đưa AI vào điều hành công không đơn thuần là ứng dụng một công cụ công nghệ mới, mà cần được nhìn nhận là một năng lực hỗ trợ ra quyết định, đi kèm với việc xác định rõ mức độ tin cậy, rủi ro và trách nhiệm của các bên liên quan.

Diễn giả ví AI như một căn bếp: dữ liệu là nguyên liệu, mô hình là công thức, quá trình huấn luyện là việc học từ những món ăn đã có, còn suy luận là lúc hệ thống tạo ra kết quả mới cho tình huống thực tế. Bà lưu ý các mô hình ngôn ngữ lớn sinh văn bản bằng cách dự đoán xác suất từ tiếp theo, do đó có thể tạo ra nội dung trôi chảy nhưng thiếu chính xác hoặc không có căn cứ. "AI rất giỏi trong việc tạo phương án nhưng con người vẫn phải kiểm tra căn cứ", bà nói.

TS Ngọc Anh cho rằng mức độ rủi ro của một ứng dụng AI phụ thuộc vào vị trí sử dụng: tóm tắt văn bản nội bộ có rủi ro thấp; xếp hạng điểm ngập để ưu tiên khảo sát có rủi ro cao hơn; còn để AI tự động từ chối hồ sơ thì rủi ro ở mức cao nhất. Do đó, thay vì chỉ hỏi "AI có nguy hiểm hay không", cần đánh giá cụ thể mức độ tác động, mức độ tự chủ, độ nhạy cảm dữ liệu, khả năng khắc phục sai sót và quy mô ảnh hưởng.

Bà đề xuất chia các tác vụ AI thành ba vùng kiểm soát: vùng xanh cho các tác vụ ít rủi ro như tra cứu, tóm tắt; vùng vàng cho các tác vụ có tác động đáng kể như khuyến nghị, xếp hạng, dự báo; và vùng đỏ cho những tác vụ ảnh hưởng trực tiếp đến quyền, lợi ích người dân - ở vùng này AI chỉ được hỗ trợ, không được tự quyết định.

Chia sẻ kinh nghiệm quốc tế, TS Ngọc Anh cho biết nhiều nước đã triển khai AI trong khu vực công theo cách sử dụng năng lực dùng chung, đo giá trị bằng thời gian, khối lượng công việc hoặc chất lượng dịch vụ thay vì đếm số lượng chatbot, đồng thời tăng minh bạch khi thuật toán bắt đầu ảnh hưởng tới quyết định công.

Bà cho rằng Hà Nội cần xây dựng một mô hình phù hợp, gồm cơ chế phân quyền truy cập, nhật ký hoạt động, năng lực tìm kiếm, mô hình nền, tiêu chuẩn an toàn và kho tri thức dùng chung, trong khi kiến thức nghiệp vụ riêng của từng sở vẫn cần được quản lý theo quyền truy cập.

Về lộ trình, bà khuyến nghị bắt đầu từ các tác vụ dễ kiểm tra, cho kết quả sớm và có thể sửa chữa như phân loại, tóm tắt, dự thảo, tra cứu; sau đó mới tiến tới trợ lý dịch vụ công, các bài toán đô thị, môi trường, và cuối cùng là những hệ thống có ảnh hưởng lớn đến người dân.

Theo bà, trước khi đưa một sản phẩm AI vào điều hành cần vượt qua bốn bước kiểm tra: nguồn gốc dữ liệu (lấy từ đâu, có phải bản mới nhất, có thuộc nhóm dữ liệu được bảo vệ hay không); khả năng truy ngược (mỗi kết luận phải có căn cứ rõ ràng); mức độ chắc chắn (phân biệt đâu là dữ kiện, đâu là suy luận); và trách nhiệm của con người (ai kiểm tra, ai xác minh, ai quyết định).

Bà cũng nhấn mạnh cán bộ cần xây dựng thói quen giao việc cho AI một cách có hệ thống, với câu lệnh xác định rõ vai trò, nhiệm vụ, bối cảnh, dữ liệu đầu vào, định dạng đầu ra và tiêu chí đánh giá. Khi sử dụng AI, cần yêu cầu hệ thống dẫn nguồn để truy vết căn cứ; nếu chưa đủ dữ liệu, AI phải chỉ rõ thông tin còn thiếu thay vì suy diễn.

TS Ngọc Anh cảnh báo tuyệt đối không đưa dữ liệu nội bộ, dữ liệu nhạy cảm lên các hệ thống AI công khai. Dữ liệu đã công bố chính thức có thể sử dụng trên các nền tảng AI công khai; dữ liệu nội bộ cần xử lý trên nền tảng được cơ quan phê duyệt; dữ liệu nhạy cảm phải được ẩn danh hoặc xử lý phù hợp trước khi sử dụng; còn dữ liệu thuộc bí mật nhà nước, thông tin hạn chế thì không được đưa lên hệ thống AI công khai dưới bất kỳ hình thức nào.

Bà đề xuất, trước khi đưa dữ liệu vào công cụ AI, người quản lý cần trả lời sáu câu hỏi: Dữ liệu gì? Hệ thống lưu trữ ở đâu? Ai có quyền truy cập? Dữ liệu có được lưu lại không? Có nhật ký giám sát hay không? Dữ liệu có thể bị sử dụng cho mục đích khác hay không?

TS Ngọc Anh cho rằng một dự án AI tốt không nên bắt đầu từ câu hỏi "nên dùng mô hình nào" mà phải xuất phát từ "vấn đề công nào đang cần giải quyết". Bà dẫn chứng AI có thể giúp phát hiện sớm điểm nghẽn giao thông, điểm ngập để ưu tiên đầu tư; phân loại phản ánh của người dân để chuyển đúng đầu mối; tổng hợp thông tin và hỗ trợ so sánh phương án.

Một trợ lý AI trong điều hành, theo bà, không cần tự quyết định thay cán bộ mà chỉ cần làm tốt việc tóm tắt báo cáo, biên bản, trích xuất nhiệm vụ - thời hạn - người phụ trách, và cảnh báo công việc sắp hoặc đã quá hạn. Bà cũng lưu ý khoảng cách giữa một sản phẩm trình diễn và một sản phẩm vận hành thực tế là rất lớn; chỉ khi được đưa vào quy trình chính thức, có người sở hữu, chỉ tiêu đo lường và cơ chế giám sát thì mới tạo ra giá trị công bền vững.

"AI không bao giờ là người chịu trách nhiệm. AI có thể tính toán, đọc, phát hiện, tổng hợp, đề xuất; nhưng con người phải thẩm định dữ liệu, căn cứ, kiểm tra và là chủ thể có thẩm quyền quyết định, đồng thời chịu trách nhiệm giải trình trước người dân và pháp luật. AI càng tham gia sâu vào quyết định thì yêu cầu về bằng chứng, kiểm soát, công bằng và trách nhiệm giải trình càng phải cao hơn", TS Nguyễn Thị Ngọc Anh nhấn mạnh.

Tiến Minh