'Đỏ mắt' tìm giám đốc đạo đức để quản lý AI

Các công ty bổ nhiệm chức vụ giám đốc đạo đức để đảm bảo sử dụng AI một cách đúng đắn. Ảnh minh họa: Jenny Chang-Rodriguez/Business Insider.

Theo một cuộc khảo sát vào tháng 5 của công ty tư vấn Mckinsey & Company, 65% trong số hơn 1.300 công ty cho biết họ thường xuyên sử dụng AI. Con số này gấp đôi so với năm trước.

Tuy nhiên, rủi ro đi kèm cũng không nhỏ. AI có thể mắc lỗi, phát tán thông tin sai lệch và đưa thông tin phân biệt đối xử không công bằng với một số nhóm người nhất định nếu không được kiểm soát cẩn thận.

Thậm chí, người dùng còn có thể đối mặt với nguy cơ AI không còn hành động dựa theo yêu cầu, giá trị hay nguyên tắc của con người dùng khi chúng trở nên thông minh hơn.

Trước tình hình này, các công ty kiếm tiền từ AI cần đảm bảo rằng họ có khả năng quản lý công nghệ này. Đó chính là lúc họ cần đến những giám đốc đạo đức (chief ethics officer), theo Business Insider.

Giám đốc đạo đức ra đời để quản lý và xử lý rủi ro khi sử dụng AI. Ảnh minh họa: Airam Dato-on/Pexels.

Vai trò thiết yếu

Vai trò của giám đốc đạo đức có thể khác nhau tùy theo công ty. Tuy nhiên, nhìn chung, họ có trách nhiệm đánh giá cách công ty sử dụng AI đã tác động đến xã hội ra sao.

Var Shankar, Giám đốc AI và quyền riêng tư tại Enzai, nền tảng phần mềm quản lý AI, giải thích rằng công việc của giám đốc đạo đức không chỉ xoay quanh công ty và lợi nhuận, mà còn là khách hàng, những người liên quan và môi trường.

Sau đó, giám đốc đạo đức sẽ xây dựng các chương trình để giải quyết những tác động đó mỗi khi dùng AI.

Giám đốc đạo đức là chức vụ giúp những người chuyên về các chính sách và triết học, cùng với những người giỏi lập trình, có chỗ đứng trong ngành công nghệ thay đổi nhanh chóng. Thêm vào đó, mức lương hàng năm của vị trí này khá cao, ở mức sáu con số.

Steve Mills, Giám đốc đạo đức AI tại Boston Consulting Group, công ty tư vấn quản lý toàn cầu, cho biết hiện các công ty không tuyển đủ người cho những vị trí này một cách kịp thời.

Thực tế, các doanh nghiệp nói nhiều về tầm quan trọng của việc quản lý rủi ro và tuân thủ các nguyên tắc đạo đức liên quan đến AI. Song, họ lại không thực sự thực hiện các hành động cần thiết để đưa những ý tưởng này vào thực tiễn.

Công việc phụ trách AI thích hợp với những ai thuộc C-level (cấp cao) trong công ty. Ảnh minh họa: MART PRODUCTION/Pexels.

Chức vụ dành cho cấp cao

"Tôi thường thấy vị trí này được giao cho các nhà quản lý cấp trung phụ trách. Dù có thể có chuyên môn và đam mê, họ lại thường không có đủ ảnh hưởng để tạo ra những thay đổi lớn và khiến các nhóm pháp lý, kinh doanh và tuân thủ làm việc cùng nhau", Steve Mills nói thêm.

Ông cho hay các công ty nằm trong danh sách Fortune 500, gồm 500 công ty thành công nhất nước Mỹ theo bảng xếp hạng của tạp chí Fortune, sử dụng AI quy mô lớn đều nên có một giám đốc điều hành phụ trách AI.

Luật sư Shankar cho biết giám đốc đạo đức không yêu cầu trình độ học vấn cụ thể. Điều quan trọng nhất ở vị trí này là thấu hiểu dữ liệu của công ty, bao gồm các khía cạnh đạo đức, nguồn gốc và sự đồng thuận sử dụng dữ liệu.

Ông lấy ví dụ về các tổ chức về chăm sóc sức khỏe có thể vô tình trở nên phân biệt nếu họ không nắm vững dữ liệu của mình. Trong một nghiên cứu được công bố trên tạp chí Science, các bệnh viện và công ty bảo hiểm y tế đã sử dụng một thuật toán để xác định những bệnh nhân sẽ được hưởng lợi từ dịch vụ "quản lý chăm sóc rủi ro cao".

Song, kết quả lại ưu tiên những bệnh nhân da trắng khỏe mạnh hơn những bệnh nhân da đen ốm yếu. Loại sai lầm này có thể được phòng tránh nhờ vào giám đốc đạo đức.

Christina Montgomery cho hay quản lý AI hiệu quả cần có sự chung tay của nhiều bên từ công ty đến các cơ quan ban ngành. Ảnh: Dan Nelken Photography LLC.

Phối hợp nhiều bên

Những người đảm nhiệm vị trí giám đốc đạo đức phải có khả năng giao tiếp tự tin với nhiều bên liên quan khác nhau.

Christina Montgomery, Phó chủ tịch kiêm giám đốc phụ trách quyền riêng tư và tin cậy của IBM, tập đoàn về công nghệ máy tính đa quốc gia, đồng thời là chủ tịch Hội đồng đạo đức AI, chia sẻ với Business Insider rằng ngày làm việc của bà thường bận rộn với các loại sự kiện và cuộc họp với khách hàng chưa kể các công việc khác.

Bà dành nhiều thời gian để phát biểu tại các sự kiện đồng thời làm việc với các nhà hoạch định chính sách và hội đồng quản trị về kế hoạch trong tương lai.

Bà tham gia vào các tổ chức như Hiệp hội các chuyên gia bảo mật quốc tế, nơi cung cấp chứng chỉ quản trị AI. Bên cạnh đó, bà cũng hợp tác với các nhà lãnh đạo chính phủ và các viên chức đạo đức.

Bà Christina nhấn mạnh tầm quan trọng của việc giao tiếp thường xuyên và chia sẻ các thông lệ hiệu quả nhất giữa các công ty. Mục tiêu của bà là hiểu được các tác động xã hội, vốn là yếu tố quan trọng đối với vai trò của mình.

Bà bày tỏ lo ngại về việc thiếu sự nhất quán toàn cầu trong các quy định về AI và tin rằng các công ty, chính phủ và hội đồng quản trị cần chung tay giải quyết vấn đề này.