EU thông qua đạo luật quản lý AI toàn diện đầu tiên trên thế giới

Đạo luật AI hoạt động như thế nào?

Ra đời vào năm 2021, Đạo luật AI của EU chia công nghệ thành các loại rủi ro, từ “không thể chấp nhận” - nghĩa là công nghệ sẽ bị cấm - đến mức độ nguy hiểm cao, trung bình và thấp.

Việc sử dụng AI có rủi ro cao, chẳng hạn như trong các thiết bị y tế hoặc cơ sở hạ tầng quan trọng như mạng lưới điện hoặc nước, phải đối mặt với các yêu cầu khó khăn hơn như sử dụng dữ liệu chất lượng cao và cung cấp thông tin rõ ràng cho người dùng.

Một số việc sử dụng AI bị cấm vì chúng được coi là có rủi ro không thể chấp nhận được, như hệ thống tính điểm xã hội chi phối cách mọi người cư xử, một số loại hệ thống cảnh sát dự đoán và nhận dạng cảm xúc ở trường học và nơi làm việc.

Các mục đích sử dụng bị cấm khác bao gồm việc cảnh sát quét khuôn mặt ở nơi công cộng bằng hệ thống nhận dạng sinh trắc học từ xa được hỗ trợ bởi AI, ngoại trừ các tội phạm nghiêm trọng như bắt cóc hoặc khủng bố.

Các dự thảo ban đầu của luật tập trung vào các hệ thống AI thực hiện các nhiệm vụ hạn chế trong phạm vi hẹp, như quét sơ yếu lý lịch và đơn xin việc. Sự gia tăng đáng kinh ngạc của các mô hình AI có mục đích chung, điển hình là ChatGPT của OpenAI, đã khiến các nhà hoạch định chính sách EU phải nỗ lực để theo kịp.

Họ đã bổ sung các điều khoản cho mô hình AI tổng quát, công nghệ làm nền tảng cho các hệ thống chatbot AI có thể tạo ra các phản hồi, hình ảnh độc đáo và dường như sống động như thật,...

Các nhà phát triển mô hình AI có mục đích chung – từ các công ty khởi nghiệp châu Âu đến OpenAI và Google – sẽ phải cung cấp bản tóm tắt chi tiết về văn bản, hình ảnh, video và dữ liệu khác trên internet được sử dụng để đào tạo hệ thống cũng như tuân theo luật bản quyền của EU.

Hình ảnh, video hoặc âm thanh giả mạo sâu do AI tạo ra về những người, địa điểm hoặc sự kiện hiện có phải được gắn nhãn là bị thao túng một cách giả tạo.

Cần có sự giám sát chặt chẽ hơn đối với các mô hình AI lớn nhất và mạnh nhất gây ra “rủi ro hệ thống”, bao gồm GPT4 của OpenAI — hệ thống tiên tiến nhất — và Gemini của Google.

Các công ty cung cấp các hệ thống này sẽ phải đánh giá và giảm thiểu rủi ro; báo cáo bất kỳ sự cố nghiêm trọng nào, chẳng hạn như trục trặc gây ra cái chết của ai đó hoặc tổn hại nghiêm trọng đến sức khỏe hoặc tài sản; áp dụng các biện pháp an ninh mạng; và tiết lộ lượng năng lượng mà mô hình của họ sử dụng.

Quy định này dự kiến ​​sẽ có hiệu lực vào cuối cơ quan lập pháp vào tháng 5, sau khi vượt qua bước kiểm tra cuối cùng và nhận được sự thông qua từ Hội đồng châu Âu. Việc thực hiện sau đó sẽ được thực hiện dần từ năm 2025 trở đi.

Những hành vi vi phạm Đạo luật AI có thể bị phạt lên tới 35 triệu EUR (38 triệu USD), tương đương 7% doanh thu toàn cầu của công ty.