AI ngày càng phổ biến: Cảnh báo những rủi ro đe dọa người dùng

Tiến sĩ Elea Wurth, Phó Tổng giám đốc phụ trách Dịch vụ chiến lược AI đáng tin cậy (AI Trustworthy), rủi ro và giao dịch, Deloitte châu Á - Thái Bình Dương và Australia cho rằng, việc quản trị AI hiệu quả không chỉ là vấn đề tuân thủ mà còn là việc cần làm để khai thác toàn bộ giá trị tiềm năng của những công nghệ AI.

Cùng với đó, các tổ chức có khung quản trị vững chắc sẽ đảm bảo tốt việc quản lý rủi ro, gia tăng tin tưởng vào các kết quả AI tạo ra, đồng thời tăng cường hiệu suất hoạt động và cuối cùng là gia tăng giá trị và quy mô.

Cũng theo Tiến sĩ Elea Wurth, qua nghiên cứu tại các quốc gia Đông Nam mới đây, các lỗ hổng bảo mật bao gồm rủi ro an ninh mạng hoặc tấn công được đa số đề cập luôn là những mối quan ngại hàng đầu liên quan đến rủi ro khi sử dụng AI. Hơn nữa, còn phát sinh các mối quan ngại khác gồm các vấn đề liên quan đến quyền riêng tư, ví dụ như vi phạm dữ liệu cá nhân hoặc thông tin bảo mật và xâm phạm quyền riêng tư từ việc giám sát tràn lan.

Ở góc độ khác, ông Chris Lewin, lãnh đạo AI và năng lực dữ liệu tại Deloitte châu Á - Thái Bình Dương, cho biết tốc độ và quy mô áp dụng AI hiện nay đang gia tăng một cách nhanh chóng khiến các tổ chức đang gặp phải các rủi ro liên quan đến AI ngay trong quá trình thử nghiệm và triển khai công nghệ này.

Một thực trạng đang diễn ra tại Đông Nam Á và rộng hơn là châu Á - Thái Bình Dương chính là điểm nóng cho các cuộc tấn công mạng, các quan ngại về các lỗ hổng bảo mật, có thể phát sinh từ chính các giải pháp AI cũng như lượng dữ liệu khổng lồ mà các giải pháp này sử dụng hoặc kết hợp của cả hai được ưu tiên hàng đầu.

Nói về các rủi ro và giải pháp sử dụng hiệu quả AI hiện nay, ông Đỗ Danh Thanh, Phó Tổng giám đốc Dịch vụ tư vấn công nghệ và chuyển đổi CNTT cho rằng, việc xâm phạm quyền riêng tư cũng là một trong ba rủi ro mà các tổ chức ở Việt Nam quan ngại nhất liên quan đến việc sử dụng AI. Hơn nữa, bên cạnh rủi ro về chia sẻ trách nhiệm giữa kỹ sư phần mềm và người dùng hệ thống AI, rủi ro về mức độ tin cậy của kết quả đầu ra…

Tuy nhiên, nếu các tổ chức xác định rõ chiến lược và tầm nhìn triển khai AI từ những giai đoạn đầu tiên khi triển khai, các rủi ro có thể giảm thiểu và được quản trị một cách tốt hơn.

Để giúp gia tăng các cơ hội phát triển, sử dụng AI hiệu quả, công ty Deloitte vừa đưa ra báo cáo tổng quan về vấn đề này, Theo đó, báo cáo cho biết việc phát triển các giải pháp AI đáng tin cậy là điều cần thiết để các tổ chức thành công trong quản trị rủi ro. Nhất thiết cần có bộ khung quản trị AI đáng tin cậy để áp dụng cho các giải pháp AI, bao gồm từ việc xây dựng ý tưởng đến thiết kế, phát triển, mua sắm đến triển khai.

Báo cáo của Deloitte đưa ra các khuyến nghị bao gồm: Ưu tiên quản trị AI để thu được lợi nhuận từ AI (cần liên tục rà soát công tác quản trị AI trên các phương diện gồm chính sách, nguyên tắc, thủ tục và kiểm soát…); hiểu rõ và tận dụng chuỗi cung ứng AI rộng lớn hơn (các tổ chức cần hiểu rõ việc sử dụng AI tương tác với chuỗi cung ứng AI rộng lớn hơn); xây dựng các đơn vị quản lý rủi ro, không phải đơn vị né tránh rủi ro (phát triển các kỹ năng và nâng cao năng lực của nhân viên); truyền thông và đảm bảo sự sẵn sàng chuyển đổi AI trong phạm vi toàn doanh nghiệp (các tổ chức nên minh bạch về chiến lược AI trong dài hạn, đào tạo các bộ phận về cách sử dụng các mô hình AI…).

Ngoài ra, báo cáo đề cập đến các vấn đề quan trọng khác như: Sẽ có hơn 70% nhân viên trẻ và sinh viên ở Đông Nam Á đã sử dụng GenAI (phán đoán và hành động của con người trong việc quản trị AI thành công); công tác quản trị AI tốt cần có ở tất cả các giai đoạn của vòng đời giải pháp AI và nên được tích hợp vào công nghệ, quy trình cũng như nguồn nhân lực.