Phố Wall chuẩn bị ứng phó với 'thảm họa AI'

Cảnh báo ở mức "báo động đỏ"

Các ngân hàng đang phải đối mặt với hoạt động của những tác nhân AI (AI agent) chưa được kiểm soát. Tình trạng này chủ yếu xuất phát từ việc khách hàng cung cấp thông tin đăng nhập tài khoản cho các tác nhân AI. Trong một số trường hợp, những công cụ này dường như đã tự thực hiện các hành động vượt ra ngoài yêu cầu ban đầu của người dùng.

Tình trạng trên khác với hành vi bất thường trong vụ tấn công hồi mùa hè nhằm vào nền tảng của công ty khởi nghiệp Hugging Face. Khi đó, một nhóm tác nhân AI đã phối hợp tấn công nền tảng này, châm ngòi cho một cuộc khủng hoảng an ninh trong ngành.

Mối lo ngại của các ngân hàng hiện nay không nằm ở một cuộc tấn công trực tiếp như vậy, mà ở những rủi ro và tác động dây chuyền có thể phát sinh khi người dùng cho phép các tác nhân AI đăng nhập vào tài khoản và thực hiện giao dịch thay mình. Đặc biệt, các công cụ này có thể tự tiến hành những hành động chưa được người dùng cho phép.

Trong khi đó, những lo ngại về các hệ thống AI tiên tiến nhất (frontier AI) cũng đang thúc đẩy các ngân hàng đầu tư vào công tác phòng ngừa và xây dựng phương án ứng phó với những tình huống xấu nhất.

Vấn đề này hiện đang được các chính quyền quan tâm trong bối cảnh những lo ngại về một cuộc khủng hoảng an ninh mạng đang ngày càng gia tăng.

Giám đốc điều hành Salesforce Marc Benioff đã đăng tải cảnh báo ở mức "báo động đỏ" trên mạng xã hội X, dẫn lại lời một nhân viên phụ trách an ninh của Anthropic: "Tình hình đã tồi tệ đến mức nào trong 4 ngày qua, và mọi thứ sẽ còn tồi tệ hơn rất nhiều trước khi được cải thiện".

Nhân viên Anthropic đề cập đến việc các nhà nghiên cứu an ninh mạng phát hiện những lỗ hổng nghiêm trọng trong một ngôn ngữ lập trình đang được sử dụng để vận hành hàng triệu trang web. Đây được xem là một trong những phát hiện có ý nghĩa sâu rộng nhất đối với lĩnh vực an ninh mạng nhờ sự hỗ trợ của AI.

Những lo ngại của các ngân hàng, trong đó tập trung vào AI có khả năng tự thực hiện nhiệm vụ (agentic AI) chứ không phải các hệ thống AI tiên tiến nhất, cũng làm dấy lên những lời kêu gọi siết chặt quản lý từ nhiều phía trong chính trường Mỹ.

Cựu cố vấn AI của Nhà Trắng David Sacks cho rằng các ngân hàng nên hỗ trợ những tác nhân AI hoạt động theo sự chỉ đạo của người dùng, cho phép họ cấp quyền, giới hạn và thu hồi quyền truy cập. Theo ông, việc chỉ cho phép truy cập và đọc dữ liệu nên được xem là giải pháp trung gian trong giai đoạn hiện nay.

Ông Sacks cũng cảnh báo việc đánh đồng những hành động do tác nhân AI thực hiện theo ủy quyền của người dùng với các cuộc tấn công mạng là thiếu trách nhiệm.

Các ngân hàng chuẩn bị cho tình huống xấu nhất

Trước đó, các ngân hàng lớn của Mỹ đã tham gia giai đoạn thử nghiệm ban đầu của Mythos, mô hình AI có năng lực an ninh mạng mạnh nhất của Anthropic.

Đây là một phần trong nỗ lực phối hợp giữa các công ty AI và những định chế tài chính lớn nhằm tận dụng công nghệ này để hiểu rõ hơn về các cuộc tấn công mạng cũng như chuẩn bị ứng phó với những rủi ro tiềm tàng.

Kể từ đó, các ngân hàng không chỉ xây dựng phương án ngăn ngừa những sự cố liên quan đến AI, mà còn chuẩn bị kế hoạch bảo vệ tài khoản khách hàng, trấn an người gửi tiền và duy trì hoạt động trong trường hợp xảy ra một cuộc tấn công trên quy mô lớn.

Trên thực tế, việc xây dựng các kịch bản ứng phó không đơn thuần là biện pháp phòng ngừa thông thường, mà còn là yêu cầu bắt buộc đối với những ngành công nghiệp trọng yếu phải chịu trách nhiệm trước chính phủ, cổ đông và khách hàng.

Các nhà cung cấp cơ sở hạ tầng trọng yếu, trong đó có lĩnh vực tài chính, phải chủ động xây dựng kế hoạch cho những tình huống khủng hoảng có thể xảy ra. Việc không chuẩn bị cho các kịch bản này sẽ bị xem là thiếu trách nhiệm trong quản trị rủi ro.

Những kịch bản khiến các ngân hàng lo ngại nhất đều gắn với nguy cơ mất kiểm soát và tâm lý hoảng loạn.

Phát biểu tại Chicago hồi đầu tháng này, Giám đốc điều hành JPMorgan Jamie Dimon cảnh báo về khả năng xảy ra các cuộc tấn công mạng cũng như nguy cơ các tác nhân AI tự thực hiện những hành động mà người dùng chưa phê duyệt.

"Bạn đang mặc định rằng chúng sẽ hành động đúng đắn thay mặt bạn, nhưng điều đó chưa chắc xảy ra", ông Dimon nói. Theo ông, giải pháp duy nhất là luôn duy trì cảnh giác. Việc ngăn chặn AI là điều không thể, thay vào đó, các tổ chức phải tìm cách quản lý công nghệ này một cách hiệu quả.

"Bạn không thể ngăn chặn nó. Bạn chỉ có thể quản lý nó thật tốt", ông nhấn mạnh.

Tháng trước, một nhà kinh tế học cũng đề cập đến khả năng xảy ra tình trạng người dân ồ ạt rút tiền khỏi ngân hàng do các tác nhân AI tự động chuyển tiền mặt của khách hàng sang những tài khoản có mức sinh lời cao hơn.

Khách hàng được khuyến cáo không chia sẻ mật khẩu

Dù chủ động chuẩn bị cho các kịch bản rủi ro, các ngân hàng muốn trấn an khách hàng rằng họ chưa ghi nhận hoạt động bất thường nào của các tác nhân AI gây ảnh hưởng đến tài khoản, cũng như chưa phát hiện bằng chứng về một cuộc tấn công mạng làm thất thoát tiền hoặc xâm phạm tài khoản khách hàng.

Các ngân hàng đặc biệt khuyến cáo người dùng không cung cấp mật khẩu cho bất kỳ tác nhân AI nào. Điều này càng quan trọng trong bối cảnh đã xuất hiện hoặc đang được phát triển những dịch vụ cho phép khách hàng chia sẻ dữ liệu ngân hàng ở chế độ chỉ đọc, thay vì trao toàn bộ quyền truy cập tài khoản.

Plaid, một công ty khởi nghiệp trong lĩnh vực công nghệ tài chính, là một trong những nền tảng cung cấp dịch vụ như vậy. Nền tảng này có thể truy xuất số dư tài khoản, lịch sử giao dịch và nhiều thông tin tài chính khác.

"Trong bất kỳ trường hợp nào, khách hàng cũng không nên chia sẻ mật khẩu với bất kỳ cá nhân hay tổ chức nào. Chấm hết", một người phát ngôn của JPMorgan nói với Axios.

Người này cho biết hiện đã có những nền tảng ngân hàng mở an toàn, không yêu cầu khách hàng phải giao thông tin đăng nhập tài khoản cho bên thứ ba. Đồng thời, khách hàng vẫn là tuyến phòng thủ đầu tiên trong việc bảo vệ tài khoản của chính mình.

JPMorgan cùng một số ngân hàng khác đã triển khai các biện pháp chặn quyền truy cập của các tác nhân AI. Tuy nhiên, các ngân hàng cũng đang tìm kiếm những phương thức an toàn để khách hàng có thể kết nối tài khoản với các dịch vụ mà họ lựa chọn.

Điều đáng chú ý là trong khi các công ty AI đang chuẩn bị đối mặt với nguy cơ phản ứng chính trị và những lời kêu gọi siết chặt quản lý, các ngân hàng lại tập trung vào khả năng gián đoạn hoạt động và những hậu quả có thể xảy ra nếu một cuộc khủng hoảng thực sự bùng phát.

Hiện vẫn chưa rõ chính phủ liên bang Mỹ đã chuẩn bị đến đâu cho một cuộc khủng hoảng có thể đồng thời tác động đến cả lĩnh vực AI lẫn hệ thống tài chính.

Tốc độ phát triển của AI đang buộc Phố Wall và Thung lũng Silicon phải chuẩn bị cho những kịch bản tồi tệ nhất. Trong khi đó, Washington vẫn đang tập trung vào việc giảm thiểu rủi ro an ninh mạng và dựa nhiều vào các cam kết tự nguyện về an toàn từ các doanh nghiệp công nghệ.