Những tiến bộ gần đây của AI đã cho phép tội phạm có thể giả mạo giọng nói hoặc video một cách chân thực hơn nhằm mạo danh và truy cập vào tài khoản của nhiều khách hàng.
Bên cạnh đó, những kẻ xấu còn lợi dụng AI để tạo ra các vụ lừa đảo qua email với thủ đoạn ngày càng tinh vi. Nhờ AI, những email này có cấu trúc ngày càng chặt chẽ với ít lỗi đánh máy hơn.
“AI đang định hình lại hệ thống an ninh mạng và việc gian lận trong lĩnh vực dịch vụ tài chính”, bà Nellie Liang, Thứ trưởng Bộ Tài chính Mỹ cho biết.
Trong báo cáo, Bộ Tài chính Mỹ cũng đã phỏng vấn 42 cá nhân làm việc trong các lĩnh vực dịch vụ tài chính, công nghệ thông tin, nhà cung cấp dữ liệu, các công ty chống gian lận và chống rửa tiền.
Phần lớn đều thể hiện mối lo ngại với “sự thiếu đồng bộ trong quy định” tiềm ẩn khi các cơ quan liên bang và tiểu bang đặt ra các quy tắc cơ bản cho AI.
Bộ Tài chính Mỹ cho biết họ sẽ làm việc với các cơ quan liên quan để đảm bảo các quy định này được đồng bộ hóa.
Báo cáo cũng lưu ý rằng, khác với các tổ chức lớn, các tổ chức tài chính nhỏ có ít nguồn lực và chuyên môn về công nghệ thông tin hơn để phát triển hệ thống AI nội bộ và thường phải dựa vào bên thứ ba.
Các công ty này cũng có ít quyền truy cập vào dữ liệu nội bộ để đào tạo các mô hình AI nhằm ngăn chặn gian lận tài chính.
Để giải quyết khoảng cách này, Hiệp hội Ngân hàng Mỹ (ABA) đang thiết kế một chương trình thí điểm nhằm tạo điều kiện cho việc chia sẻ thông tin nội bộ trong ngành về gian lận tài chính và các hoạt động bất hợp pháp khác.
Bộ Tài chính Mỹ là tổ chức mới nhất lên tiếng cảnh báo về AI, nhưng không phải là tổ chức đầu tiên bày tỏ quan ngại về lĩnh vực này.
Trước đó, các cơ quan quản lý tài chính quan trọng hàng đầu của Mỹ, bao gồm Cục Dự trữ Liên bang (Fed), Ủy ban Chứng khoán và Giao dịch (SEC) và Cục Bảo vệ Tài chính Người tiêu dùng (CFPB), cũng đã cảnh báo về nhiều khía cạnh của AI, từ việc phân biệt đối xử đến các rủi ro tiềm ẩn trong hệ thống này.
Sức mạnh chi phối của AI trong cuộc bầu cử Tống thống Mỹ 2024
Không chỉ trong lĩnh vực kinh tế, AI còn được cho là sẽ có tác động không nhỏ tới cuộc đua vào nhà Trắng sắp tới của hai ứng cử viên Joe Biden và Donal Trump.
Theo nhiều nhà phân tích, những tiến bộ của AI có thể là “con dao hai lưỡi” đối với cuộc bầu cử Tổng thống Mỹ năm 2024.
Theo ông Vance Reavie, giám đốc điều hành công ty Junction AI, công cụ này có thể giúp các nhà vận động tranh cử hiểu được mối quan tâm của các cử tri tiềm năng, từ đó tiếp cận họ thông qua các chính sách phù hợp và tạo ra các quảng cáo được cá nhân hóa để thu hút lượng phiếu bầu mà không mất quá nhiều thời gian và tiền bạc.
Tuy nhiên, mặt trái của AI là khả năng lan truyền thông tin sai lệch. Bởi công cụ này có thể dễ dàng tạo ra giọng nói, hình ảnh, thậm chí là video giả mạo tinh vi, khiến người xem khó phân biệt thật giả.
Vào ngày 21/1, hai ngày trước cuộc bầu cử sơ bộ ở bang New Hampshire (Mỹ), một cuộc gọi deepfake với giọng nói giống Tổng thống Joe Biden đã được thực hiện tự động nhằm kêu gọi cử tri không đi bỏ phiếu ở bang này.
Ngay sau cuộc gọi giả nói trên, Ủy ban Truyền thông Liên bang Mỹ (FCC) đã công bố lệnh cấm các cuộc gọi tự động sử dụng âm thanh AI.
Đầu năm ngoái, hình ảnh cựu Tổng thống Mỹ Donal Trump bị bắt giữ được tạo bởi AI cũng tràn lan trên mạng xã hội. Hình ảnh này được ông Eliot Higgins, người sáng lập ra Bellingcat, một tổ chức điều tra nguồn mở, đăng tải trên Instagram nhằm “kiểm tra dư luận”.
Dù ghi rõ bức ảnh chỉ là giả, nhưng bài đăng này vẫn nhận được hàng chục nghìn lượt like và gây xôn xao dư luận. Ông Higgins sau đó đã bị chính Midjourney, công ty AI tạo ra các bức ảnh giả trên chặn truy cập vào hệ thống.
Nếu không có các biện pháp bảo vệ rõ ràng, tác động của AI đối với cuộc bầu cử sẽ rất khó lường.
Công cụ này có thể bị lợi dụng để tăng cường các chiến dịch đưa thông tin sai lệch và khiến các ứng cử viên trông giống như đang nói hoặc làm những việc họ không làm. Điều này sẽ gây tổn hại đến hình ảnh của họ trong mắt các cử tri.
Trước tình hình này, mùa hè năm ngoái, Ủy ban Bầu cử Liên bang Mỹ (FEC) đã bắt đầu quy trình tạo ra các quy định dành riêng cho AI nhằm ngăn chặn ảnh hưởng của công cụ này tới kết quả bầu cử. Cơ quan này cũng cho biết họ dự kiến sẽ thực hiện xong vào mùa hè năm nay – trước thềm cuộc bầu cử Tổng thống Mỹ diễn ra vào tháng 11.
