Chỉ 56% tổ chức có thể cấp đủ ngân sách để đầu tư hạ tầng AI

Có 89% lãnh đạo công nghệ thông tin đánh giá trí tuệ nhân tạo dựa trên tác nhân (agentic AI) sẽ giữ vai trò trọng yếu trong 12 đến 24 tháng tới, nhưng chỉ 56% tổ chức được cấp đủ ngân sách để đầu tư vào hạ tầng cần thiết…

Trong bối cảnh trí tuệ nhân tạo (AI) đang ngày càng phát triển, một khảo sát mới nhất từ IDC và Intel đã chỉ ra rằng agentic AI đang trở thành một ưu tiên hàng đầu cho các lãnh đạo công nghệ thông tin trên toàn cầu. Tuy nhiên, sự phát triển này cũng đặt ra những thách thức lớn đối với hạ tầng công nghệ thông tin của doanh nghiệp.

Theo đó, agentic AI không chỉ đơn thuần là một bước tiến trong công nghệ AI mà còn là một thách thức lớn đối với cơ sở hạ tầng công nghệ thông tin. Các mô hình AI truyền thống thường chỉ xử lý các câu lệnh đơn lẻ, trong khi agentic AI yêu cầu một quy trình phức tạp hơn nhiều, bao gồm truy xuất dữ liệu, kích hoạt mô hình, thực thi mã và áp dụng các chính sách an ninh. Điều này đòi hỏi năng lực xử lý mạnh mẽ, thông lượng mạng cao và kiến trúc phân bổ tài nguyên hiệu quả.

Theo khảo sát, có 89% lãnh đạo công nghệ thông tin đánh giá agentic AI sẽ giữ vai trò trọng yếu trong 12 đến 24 tháng tới. Mặc dù agentic AI được xem là một ưu tiên, nhưng hạ tầng cho công nghệ này lại nhận được mức đầu tư thấp nhất. Chỉ 56% tổ chức khẳng định họ có đủ ngân sách cho hạ tầng agentic AI. Điều này cho thấy một khoảng cách lớn giữa kỳ vọng và nguồn lực đầu tư, đòi hỏi các doanh nghiệp phải xác lập chiến lược hạ tầng phù hợp với cách thức vận hành thực tế.

Để đáp ứng yêu cầu của agentic AI, hạ tầng cần phải triển khai linh hoạt theo mô hình kết hợp, đa dạng hóa năng lực tính toán và liên tục tối ưu hóa việc phân bổ tài nguyên. Có 55% người tham gia khảo sát duy trì cách tiếp cận cân bằng giữa hạ tầng công nghệ thông tin nội bộ và đám mây công cộng, trong khi 38% ưu tiên hệ thống công nghệ thông tin nội bộ. Điều này phản ánh nhu cầu vận hành gần nguồn dữ liệu nội bộ để đảm bảo độ trễ thấp, chi phí băng thông hợp lý và an ninh dữ liệu.

Ngoài ra, kiến trúc x86 vẫn giữ vị thế lý tưởng cho bước chuyển mình này. Dù người mua đánh giá mức độ phù hợp lý thuyết của x86 và Arm cho agentic AI gần như tương đương (87,5% so với 87,2%), nhưng khi bước vào triển khai thực tế ở quy mô lớn, x86 đã chứng minh ưu thế vượt trội khi dẫn đầu ở 9/12 tiêu chí đánh giá, bao gồm tính tương thích phần mềm (88% so với 80%), khả năng mở rộng (89% so với 81%), độ tin cậy và phục hồi (88% so với 82%), mức độ phổ biến hiện tại (88% so với 77%) và chiều sâu chuyên môn kỹ thuật (92% so với 83%).

Về nhận thức năng lực điện toán, có 27% người mua xem GPU quyết định hiệu năng, 23% coi trọng CPU nhưng khoảng một nửa khẳng định hiệu năng phụ thuộc vào từng ngữ cảnh cụ thể, nơi cả CPU lẫn GPU đều giữ vai trò thiết yếu. Do đó, agentic AI không chỉ đơn thuần là việc trang bị các cụm GPU đắt đỏ, mà đòi hỏi sự kết hợp hài hòa giữa nhiều tài nguyên điện toán không đồng nhất nhằm tối đa hóa giá trị mỗi token - cả về số lượng token trên mỗi chi phí đầu tư lẫn chất lượng công việc hoàn thành.

Tương lai, AI doanh nghiệp là mô hình CPU kết hợp GPU, hướng tới tích hợp thêm các bộ tăng tốc chuyên dụng. Khảo sát cho thấy khoảng 40% người mua ưu tiên máy chủ tiêu chuẩn có khả năng tăng tốc ma trận, vector hoặc hỗ trợ thẻ cắm PCIe.

Đại diện IDC cho rằng dù Arm có phần nhỉnh hơn về giá thành, hiệu quả năng lượng, và độ hài lòng, nhưng các thế mạnh của x86 lại gắn liền chặt chẽ với những thực tế vận hành mà doanh nghiệp phải đối mặt khi đưa agentic AI từ giai đoạn thử nghiệm vào vận hành thực tế.

Thực tế, khi AI phát triển theo hướng agentic AI, nền tảng Xeon đảm nhận vai trò điều phối, thực thi ứng dụng, truy xuất dữ liệu và bảo mật. Cùng với đó, GPU và các bộ tăng tốc khác cung cấp năng lực tính toán chuyên biệt cho những tác vụ đòi hỏi.

Cùng với phần cứng, Intel chủ động tối ưu hóa các khung phần mềm nguồn mở như PyTorch, vLLM và OpenVINO, đảm bảo tính linh hoạt tối đa mà không bị ràng buộc vào kiến trúc độc quyền.