AI đang thay đổi nhanh chóng cách doanh nghiệp làm việc. Từ một công cụ hỗ trợ viết nội dung hoặc trả lời câu hỏi, AI ngày nay có thể phân tích dữ liệu, đưa ra đề xuất, sử dụng công cụ và thực hiện nhiều nhiệm vụ liên tiếp. Khi khả năng của AI ngày càng mở rộng, doanh nghiệp cũng đứng trước một câu hỏi quan trọng: nếu AI có thể tự thực hiện ngày càng nhiều công việc thì ai sẽ là người kiểm soát AI?
Đây không còn là câu hỏi chỉ dành cho các chuyên gia công nghệ. Một nhân viên marketing sử dụng AI để tạo nội dung, một nhân viên kinh doanh dùng AI để phân tích khách hàng hay một hệ thống tự động xử lý yêu cầu của khách hàng đều có thể tạo ra những rủi ro nếu AI hoạt động mà không có giới hạn rõ ràng. Vì vậy, bên cạnh việc đầu tư vào AI, doanh nghiệp cần xây dựng một hệ thống quản trị để đảm bảo công nghệ được sử dụng đúng mục đích, an toàn và phù hợp với chiến lược của tổ chức.
Quản trị AI là gì?
Quản trị AI, hay AI Governance, là tập hợp các nguyên tắc, quy trình và cơ chế kiểm soát giúp doanh nghiệp quản lý cách AI được phát triển, triển khai và sử dụng. Mục tiêu không phải là hạn chế AI đến mức không thể phát huy tác dụng, mà là tạo ra một “khung an toàn” để AI hoạt động trong phạm vi doanh nghiệp cho phép.
Nếu AI là một nhân viên có khả năng xử lý hàng nghìn nhiệm vụ trong thời gian ngắn, quản trị AI chính là hệ thống quy định nhân viên đó được làm gì, không được làm gì, được sử dụng dữ liệu nào và ai chịu trách nhiệm khi có vấn đề xảy ra.
Một hệ thống quản trị AI thường liên quan đến nhiều yếu tố:
- Dữ liệu: AI được phép sử dụng những dữ liệu nào?
- Quyền hạn: AI có thể truy cập và thực hiện những hành động gì?
- Bảo mật: Làm thế nào để bảo vệ thông tin doanh nghiệp và khách hàng?
- Độ chính xác: Ai kiểm tra kết quả AI tạo ra?
- Trách nhiệm: Ai chịu trách nhiệm khi AI đưa ra quyết định sai?
- Đạo đức: AI có đang được sử dụng công bằng và đúng mục đích hay không?
Những câu hỏi này càng trở nên quan trọng khi AI được đưa vào những hoạt động có ảnh hưởng trực tiếp đến khách hàng và doanh nghiệp.
Vì sao doanh nghiệp cần quản trị AI?
Một trong những lý do quan trọng nhất là AI không phải lúc nào cũng đưa ra kết quả chính xác. Mô hình AI có thể hiểu sai yêu cầu, sử dụng dữ liệu chưa phù hợp hoặc tạo ra thông tin không có thật. Nếu nhân viên sử dụng kết quả đó cho những quyết định quan trọng mà không kiểm tra, sai sót có thể nhanh chóng lan rộng.
Bên cạnh đó, AI ngày càng được kết nối với nhiều hệ thống khác. Một AI Agent có thể được cấp quyền đọc dữ liệu, gửi email, tạo báo cáo hoặc thực hiện một số thao tác trên phần mềm. Khi quyền hạn tăng lên, mức độ rủi ro cũng tăng theo.
Doanh nghiệp cũng cần kiểm soát việc nhân viên tự ý sử dụng các công cụ AI bên ngoài. Một nhân viên có thể vô tình đưa dữ liệu khách hàng hoặc tài liệu nội bộ vào một nền tảng AI mà công ty chưa đánh giá về bảo mật. Vì vậy, quản trị AI không chỉ liên quan đến những hệ thống AI do doanh nghiệp xây dựng mà còn bao gồm cách toàn bộ nhân viên sử dụng AI trong công việc.
Ai sẽ chịu trách nhiệm kiểm soát AI?
Đây là một trong những câu hỏi khó nhất đối với doanh nghiệp. Nếu chỉ giao toàn bộ trách nhiệm cho phòng công nghệ thông tin thì chưa đủ, bởi AI có thể xuất hiện trong marketing, bán hàng, nhân sự, tài chính và chăm sóc khách hàng.
Quản trị AI cần có sự tham gia của nhiều bộ phận. Ban lãnh đạo cần xác định định hướng và mức độ chấp nhận rủi ro. Bộ phận công nghệ chịu trách nhiệm về hệ thống và bảo mật. Các phòng ban chuyên môn cần kiểm soát cách AI được sử dụng trong công việc thực tế.
Một mô hình quản trị có thể phân chia trách nhiệm như sau:
- Ban lãnh đạo: Đặt chiến lược và nguyên tắc sử dụng AI.
- Bộ phận IT: Quản lý hệ thống, bảo mật và quyền truy cập.
- Bộ phận pháp lý: Kiểm tra những vấn đề liên quan đến quy định và trách nhiệm.
- Các phòng ban: Đảm bảo AI được sử dụng đúng mục đích chuyên môn.
- Nhân viên: Tuân thủ quy định và báo cáo những vấn đề phát sinh.
Như vậy, kiểm soát AI không phải công việc của một cá nhân hay một phòng ban mà là trách nhiệm chung của toàn doanh nghiệp.
Doanh nghiệp cần kiểm soát AI ở những đâu?
Quản trị AI cần bắt đầu ngay từ thời điểm doanh nghiệp lựa chọn công cụ. Không phải mọi hệ thống AI đều phù hợp với mọi loại dữ liệu và mục đích sử dụng.
Trước khi triển khai, doanh nghiệp nên đánh giá những yếu tố như:
- AI sẽ được sử dụng cho công việc gì?
- AI cần truy cập những dữ liệu nào?
- Dữ liệu có chứa thông tin nhạy cảm hay không?
- AI có được phép thực hiện hành động tự động không?
- Kết quả AI có cần con người kiểm tra không?
- Nếu hệ thống xảy ra lỗi thì ai sẽ xử lý?
Sau khi triển khai, doanh nghiệp cũng cần theo dõi hoạt động của AI. Việc này giúp phát hiện những hành vi bất thường và đánh giá xem hệ thống có đang tạo ra giá trị thực tế hay không.
Kiểm soát dữ liệu khi sử dụng AI
Dữ liệu là một trong những tài sản quan trọng nhất của doanh nghiệp và cũng là yếu tố AI sử dụng nhiều nhất. Vì vậy, quản trị AI không thể tách rời quản trị dữ liệu.
Doanh nghiệp cần xác định rõ loại dữ liệu nào có thể đưa vào AI. Những dữ liệu như thông tin khách hàng, dữ liệu tài chính, hợp đồng hoặc kế hoạch kinh doanh có thể cần mức độ bảo vệ cao hơn những thông tin công khai.
Một số nguyên tắc cơ bản có thể áp dụng gồm:
- Không đưa thông tin nhạy cảm vào công cụ AI chưa được doanh nghiệp phê duyệt.
- Phân quyền truy cập dữ liệu theo vai trò của từng nhân viên.
- Kiểm tra cách nhà cung cấp AI xử lý và lưu trữ dữ liệu.
- Theo dõi những dữ liệu được đưa vào và kết quả được tạo ra.
- Xóa hoặc hạn chế dữ liệu không cần thiết sau khi hoàn thành nhiệm vụ.
Việc này giúp doanh nghiệp giảm nguy cơ rò rỉ dữ liệu và tạo ra một môi trường sử dụng AI có kiểm soát hơn.
Con người vẫn phải nằm trong vòng kiểm soát
Một trong những nguyên tắc quan trọng của quản trị AI là không nên để AI tự đưa ra mọi quyết định quan trọng mà không có sự giám sát của con người. Đặc biệt với những quyết định liên quan đến tài chính, nhân sự, pháp lý hoặc quyền lợi khách hàng, doanh nghiệp cần có cơ chế kiểm tra phù hợp.
Khái niệm “Human in the Loop” thường được sử dụng để mô tả cách con người tham gia vào quá trình ra quyết định của AI. AI có thể phân tích dữ liệu và đưa ra đề xuất, nhưng con người sẽ xem xét và quyết định có chấp nhận kết quả hay không.
Ví dụ, AI có thể hỗ trợ đánh giá hồ sơ ứng viên dựa trên những tiêu chí được thiết lập. Tuy nhiên, quyết định tuyển dụng cuối cùng vẫn cần được con người xem xét. Điều này giúp hạn chế nguy cơ AI tạo ra quyết định thiếu công bằng hoặc dựa trên dữ liệu không phù hợp.
Làm thế nào để kiểm soát AI Agent?
AI Agent đặt ra một bài toán quản trị phức tạp hơn chatbot thông thường. Một chatbot chủ yếu tạo ra câu trả lời, trong khi AI Agent có thể sử dụng công cụ và thực hiện hành động.
Nếu một AI Agent được quyền gửi email, chỉnh sửa dữ liệu hoặc thực hiện giao dịch, doanh nghiệp cần xác định rõ giới hạn của nó. Không nên cấp cho AI nhiều quyền hơn mức cần thiết để hoàn thành nhiệm vụ.
Doanh nghiệp có thể áp dụng các nguyên tắc như:
- Chỉ cấp quyền tối thiểu cần thiết.
- Yêu cầu xác nhận trước những hành động có rủi ro cao.
- Ghi lại lịch sử hoạt động của AI.
- Kiểm tra định kỳ quyền truy cập.
- Có cơ chế dừng AI khi phát hiện hành vi bất thường.
Đây là yếu tố đặc biệt quan trọng khi AI ngày càng có khả năng hoạt động tự động trong thời gian dài.
Quản trị AI có làm doanh nghiệp chậm lại?
Một số doanh nghiệp có thể lo ngại rằng quá nhiều quy định sẽ khiến nhân viên mất thời gian và làm giảm tốc độ ứng dụng AI. Tuy nhiên, quản trị AI hiệu quả không phải là tạo ra hàng loạt thủ tục phức tạp mà là xác định rõ những giới hạn cần thiết.
Nếu nhân viên biết công cụ nào được phép sử dụng, dữ liệu nào được đưa vào AI và trường hợp nào cần xin phê duyệt, họ có thể làm việc nhanh hơn mà không phải tự đoán đâu là giới hạn an toàn.
Quản trị tốt vì vậy không nên trở thành “rào chắn” ngăn AI phát triển. Nó nên giống như hệ thống biển báo trên đường, giúp doanh nghiệp biết đâu là khu vực có thể tăng tốc và đâu là nơi cần giảm tốc.
Xây dựng văn hóa sử dụng AI có trách nhiệm
Một hệ thống quản trị dù tốt đến đâu cũng khó hiệu quả nếu nhân viên không hiểu lý do phía sau những quy định. Doanh nghiệp cần đào tạo nhân viên để họ hiểu AI có thể làm gì, những rủi ro nào có thể xảy ra và cách xử lý khi phát hiện vấn đề.
Chương trình đào tạo có thể tập trung vào:
- Cách sử dụng AI an toàn.
- Cách kiểm tra thông tin do AI tạo ra.
- Những dữ liệu không được đưa vào AI.
- Cách nhận biết nội dung hoặc kết quả đáng ngờ.
- Quy trình báo cáo khi AI xảy ra lỗi.
- Nguyên tắc sử dụng AI có trách nhiệm.
Khi nhân viên hiểu rõ những nguyên tắc này, quản trị AI sẽ trở thành một phần của văn hóa doanh nghiệp thay vì chỉ là một bộ quy định nằm trên giấy.
Tương lai của quản trị AI trong doanh nghiệp
AI sẽ ngày càng có khả năng tự động hóa nhiều nhiệm vụ và tham gia sâu hơn vào hoạt động kinh doanh. Điều này đồng nghĩa với việc quản trị AI cũng phải thay đổi theo sự phát triển của công nghệ.
Trong tương lai, doanh nghiệp có thể phải quản lý không chỉ một AI mà là cả một hệ thống gồm nhiều AI Agent cùng phối hợp. Một AI có thể phụ trách phân tích dữ liệu, một AI xử lý khách hàng và một AI thực hiện các nhiệm vụ nội bộ. Khi đó, doanh nghiệp cần biết các AI đang trao đổi dữ liệu gì, sử dụng quyền hạn nào và ảnh hưởng đến nhau ra sao.
Quản trị AI vì vậy sẽ trở thành một phần quan trọng trong chiến lược công nghệ của doanh nghiệp. Những tổ chức xây dựng được hệ thống kiểm soát tốt sẽ có nhiều khả năng tận dụng AI mạnh mẽ hơn mà vẫn duy trì được mức độ an toàn cần thiết.
Kết luận
AI càng thông minh thì câu hỏi về quyền kiểm soát càng trở nên quan trọng. Doanh nghiệp không thể chỉ quan tâm đến việc AI có thể làm được bao nhiêu việc mà còn phải xác định AI được phép làm gì, sử dụng dữ liệu nào và ai chịu trách nhiệm đối với kết quả cuối cùng.
Quản trị AI giúp doanh nghiệp tạo ra giới hạn cần thiết để công nghệ phát triển đúng hướng. Khi AI được kiểm soát bằng những nguyên tắc rõ ràng, dữ liệu được bảo vệ và con người vẫn giữ vai trò giám sát trong những quyết định quan trọng, doanh nghiệp có thể khai thác AI hiệu quả mà không phải đánh đổi bằng những rủi ro không đáng có.
Trong kỷ nguyên AI, lợi thế không chỉ thuộc về doanh nghiệp sở hữu công nghệ thông minh nhất. Lợi thế sẽ thuộc về những doanh nghiệp biết cách quản lý, kiểm soát và sử dụng công nghệ đó một cách có trách nhiệm.
