Vì sao nhiều dự án AI chưa thể đi xa hơn giai đoạn thử nghiệm?

Nhiều doanh nghiệp đã bắt đầu hành trình AI, nhưng không phải dự án nào cũng có thể vượt qua giai đoạn thử nghiệm. Bài toán hạ tầng đang trở thành một trong những yếu tố quyết định khả năng triển khai AI ở quy mô thực tế.

Khi AI bước ra khỏi phòng thử nghiệm

Trí tuệ nhân tạo (AI) đang trở thành một trong những ưu tiên hàng đầu trong chiến lược chuyển đổi số của doanh nghiệp. Theo báo cáo The State of AI của McKinsey, 71% doanh nghiệp đã sử dụng Generative AI trong ít nhất một chức năng kinh doanh. Tuy nhiên, việc mở rộng AI ở quy mô toàn doanh nghiệp vẫn là thách thức khi chỉ khoảng một phần ba tổ chức cho biết đã bắt đầu scale các chương trình AI, trong khi hơn 80% vẫn chưa ghi nhận tác động đáng kể của GenAI đến EBIT.  

Trong khi đó, nghiên cứu của Forrester cho thấy khoảng 75% lãnh đạo doanh nghiệp đang triển khai hoặc thử nghiệm AI Agent, nhưng chỉ một số ít đã đưa các ứng dụng này vào vận hành thực tế ở quy mô doanh nghiệp. Điều này phản ánh khoảng cách đáng kể giữa việc tiếp cận các công nghệ AI mới và khả năng triển khai chúng vào hoạt động thực tiễn.

Những con số trên cho thấy AI đã vượt qua giai đoạn thử nghiệm công nghệ để trở thành một ưu tiên chiến lược của doanh nghiệp. Tuy nhiên, khả năng triển khai và tạo ra giá trị ở quy mô thực tế vẫn là bài toán chưa có lời giải.

Nhiều doanh nghiệp bắt đầu hành trình AI bằng việc xây dựng chatbot, trợ lý số hoặc các mô hình phân tích dữ liệu. Nhưng khi nhu cầu mở rộng sang các hoạt động kinh doanh cốt lõi, yêu cầu về hiệu năng, khả năng xử lý dữ liệu và mức độ sẵn sàng của hệ thống cũng tăng lên đáng kể.

Chia sẻ về thực trạng này, ông Nguyễn Thanh Bình, Giám đốc Trung tâm Phân tích Chiến lược Sản phẩm, CMC Telecom, cho rằng nhiều doanh nghiệp đang tập trung vào việc lựa chọn mô hình hoặc ứng dụng AI phù hợp nhưng chưa dành sự quan tâm tương xứng cho các yếu tố nền tảng phục vụ quá trình vận hành và mở rộng về sau.

" Cũng giống như không thể xây một tòa nhà trên nền móng chưa hoàn thiện, doanh nghiệp khó có thể khai thác hết tiềm năng của AI nếu thiếu một nền tảng dữ liệu và năng lực tính toán phù hợp. Đây là những yếu tố thường ít được chú ý ở giai đoạn đầu nhưng lại quyết định hiệu quả của AI trong dài hạn."

Từ AI thử nghiệm đến AI vận hành: Bài toán mang tên hạ tầng

Sự phát triển mạnh mẽ của AI đang thúc đẩy một thay đổi lớn trong cách doanh nghiệp đầu tư và xây dựng hạ tầng công nghệ. Gartner dự báo tổng chi tiêu cho AI toàn cầu sẽ đạt khoảng 2,52 nghìn tỷ USD trong năm 2026, tăng 44% so với năm trước. Đáng chú ý, phần lớn tăng trưởng mới được thúc đẩy bởi các khoản đầu tư vào AI Infrastructure khi doanh nghiệp và các nhà cung cấp công nghệ tiếp tục mở rộng nền tảng phục vụ AI.

Xu hướng này cũng được IDC ghi nhận khi tổ chức nghiên cứu dự báo chi tiêu cho AI Infrastructure toàn cầu có thể đạt 223 tỷ USD vào năm 2028, phản ánh nhu cầu ngày càng lớn đối với năng lực tính toán và các nền tảng phục vụ AI.

Khác với các ứng dụng CNTT truyền thống, AI đòi hỏi khả năng xử lý lượng dữ liệu lớn, thực hiện các tác vụ tính toán phức tạp và phản hồi với tốc độ cao. Điều này khiến năng lực tính toán hiệu năng cao trở thành một thành phần ngày càng quan trọng trong kiến trúc công nghệ của doanh nghiệp.

Trong bối cảnh đó, nhiều doanh nghiệp đang chuyển từ tư duy xây dựng hạ tầng CNTT truyền thống sang phát triển các nền tảng hạ tầng sẵn sàng cho AI – nơi dữ liệu, năng lực tính toán và khả năng mở rộng được thiết kế để phục vụ trực tiếp cho các khối lượng công việc Big Data, ML, AI.

Nắm bắt xu hướng này, CMC Cloud đang phát triển hệ sinh thái hạ tầng nhằm hỗ trợ doanh nghiệp triển khai và vận hành các ứng dụng AI trên quy mô thực tế. Nền tảng hiện sở hữu hơn 100 GPU từ dòng NVIDIA Ampere A100 đến thế hệ Blackwell B6000, đáp ứng các nhu cầu từ huấn luyện mô hình, suy luận đến xử lý dữ liệu lớn.

Bên cạnh năng lực phần cứng, CMC Cloud còn cung cấp các cơ chế tối ưu tài nguyên như K8s GPU Sharing (MIG) và Elastic GPU, cho phép doanh nghiệp phân bổ và sử dụng tài nguyên GPU linh hoạt theo từng khối lượng công việc. Cách tiếp cận này giúp tối ưu hiệu suất khai thác hạ tầng, đồng thời kiểm soát chi phí đầu tư và vận hành hiệu quả hơn.

Được triển khai trên hệ thống Data Center tại Việt Nam cùng các tiêu chuẩn bảo mật và vận hành nghiêm ngặt, CMC Cloud giúp doanh nghiệp chủ động hơn trong việc quản trị dữ liệu, đáp ứng yêu cầu tuân thủ và xây dựng các ứng dụng AI ổn định trong dài hạn.

Khi AI ngày càng trở thành một phần trong chiến lược tăng trưởng của doanh nghiệp, hạ tầng không còn đơn thuần là lớp công nghệ phía sau. Đó đang dần trở thành nền tảng quyết định khả năng hiện thực hóa các sáng kiến AI và chuyển đổi chúng thành giá trị kinh doanh thực tế.