07 Thách thức của Generative AI mà doanh nghiệp nên cân nhắc

02/11/2023

Generative AI mang đến những khả năng ưu việt ở hiện tại, hứa hẹn về những tiến bộ trong tương lai, nhưng liệu có nhiều cạm bẫy?

Generative AI này đã đạt được bước tiến lớn vào năm 2022 với việc phát hành ChatGPT và Dall-E 2 của OpenAI. Những công cụ đó và những công cụ kế thừa như Bard của Google, đều được xây dựng trên một mô hình ngôn ngữ (Language model), một loại mô hình học máy được mài giũa dựa trên lượng dữ liệu đào tạo khổng lồ.

Giờ đây, người dùng có thể khai thác các mô hình trí tuệ nhân tạo để thực hiện nhiều công việc sáng tạo nội dung: Văn bản, hình ảnh, video, âm thanh và dữ liệu tổng hợp đều được trộn lẫn. Nhưng những lợi ích của công nghệ này có cái giá phải trả. Dưới đây là 07 thách thức của Generative AI mà các nhà lãnh đạo doanh nghiệp nên xem xét.

Xử lý độ phức tạp kỹ thuật

Các Generative AI có thể chứa hàng tỷ hoặc thậm chí hàng nghìn tỷ tham số, khiến chúng trở thành một công việc phức tạp đối với phần lớn doanh nghiệp.

Arun Chandrasekaran, phó chủ tịch, nhà phân tích, đổi mới công nghệ tại Gartner cho biết: “Những mô hình này có kích thước quá lớn để đào tạo cho hầu hết các tổ chức”. Các tài nguyên tính toán cần thiết có thể làm cho công nghệ này trở nên đắt đỏ và không thân thiện với môi trường, vì vậy hầu hết việc áp dụng trong thời gian ngắn có thể sẽ khiến các doanh nghiệp sử dụng Genertive AI thông qua API đám mây với khả năng điều chỉnh hạn chế.

Chandrasekaran nói thêm: “Khó khăn trong việc tạo ra các mô hình dẫn đến một vấn đề khác: sự tập trung quyền lực vào một số tổ chức có nguồn lực dồi dào.”

Đối mặt với các hệ thống kế thừa (legacy systems)

Việc tích hợp Generative AI vào môi trường công nghệ cũ hơn có thể đặt ra thêm vấn đề cho doanh nghiệp. Các nhà lãnh đạo Công nghệ thông tin sẽ phải đưa ra quyết định về việc tích hợp hoặc thay thế các hệ thống cũ.

Ví dụ, các tổ chức tài chính đang xem xét một mô hình ngôn ngữ có thể được sử dụng để xác định gian lận, phát hiện rằng Generative AI có thể xung đột với cách hệ thống hiện tại của họ xử lý nhiệm vụ đó. Theo lời của Pablo Alejo, đối tác tại công ty tư vấn West Monroe.

Alejo giải thích. “Tổ chức phải tìm cách mới để tích hợp hoặc áp dụng những khả năng mới, với những công nghệ mới, giúp họ đạt được cùng các kết quả hoặc kết quả nhanh chóng và hiệu quả hơn.”

Tránh nợ kỹ thuật

Nếu doanh nghiệp không đạt được sự thay đổi thông qua việc triển khai Generative AI, nó có thể trở thành một phần của hệ thống kế thừa như là khoản nợ kỹ thuật.

Một doanh nghiệp triển khai các mô hình AI trong việc hỗ trợ khách hàng có thể thành công trong việc tối ưu hóa vì con người sẽ xử lý ít công việc hơn. Nhưng việc giảm khối lượng công việc vẫn chưa, theo Bill Bragg, CIO tại nhà cung cấp AI SaaS dành cho doanh nghiệp SymphonyAI. Ông lưu ý rằng một doanh nghiệp sẽ cần giảm đáng kể số lượng nhân viên ở các vị trí hỗ trợ trực tuyến để chứng minh cho việc đầu tư vào AI là hợp lý.

"Nếu bạn không cắt giảm một thứ gì đó, làm sao có thể gọi là tối ưu hóa?" Bragg nói. "Tất cả những gì bạn đã làm là thêm nhiều nợ hơn vào quy trình của mình."

Tái cơ cấu một số lực lượng lao động

Generative AI có thể sẽ tái cấu trúc cách thực hiện công việc trong nhiều lĩnh vực, một viễn cảnh làm dấy lên lo ngại về tình trạng mất việc làm. Một bài báo về ngành công nghiệp Video Game Trung Quốc cho biết cơ hội việc làm cho các nghệ sĩ đang biến mất khi các công ty sử dụng công cụ tạo hình ảnh dựa trên AI.

Nhưng một số giám đốc điều hành cho rằng mọi chuyện không phải hoàn toàn là sự chấm dứt. Bragg cho biết AI có thể giảm số lượng nhân viên trong việc hỗ trợ khách hàng, nhưng công nghệ này cũng sẽ tạo ra các vai trò khác.

Ông lý giải: Một doanh nghiệp sẽ cần nhân viên để giám sát và cải thiện trải nghiệm khách hàng được hỗ trợ bởi AI. Thay vào đó, những nhân viên từng trả lời câu hỏi của khách hàng trên laptop sẽ thúc đẩy các cải tiến kỹ thuật và dữ liệu tiếp theo. Bragg gọi quá trình chuyển đổi này là từ “người thực hiện” trở thành “người đào tạo”.

Tương tự, Alejo cho biết Generative AI sẽ loại bỏ một số loại công việc nhưng cũng “mở ra những loại công việc hoàn toàn mới mà chính những người đó có thể tận dụng”.

Giám sát khả năng lạm dụng và ảo giác AI (AI hallucinations)

Các mô hình AI giảm chi phí tạo ra nội dung. Điều đó giúp ích cho các doanh nghiệp nhưng cũng giúp các tác nhân đe dọa có thể dễ dàng sửa đổi nội dung hiện tại để tạo ra các nội dung Deepfakes.

Phương tiện truyền thông được thay đổi bằng kỹ thuật số có thể bắt chước gần như nguyên bản với phương tiện truyền thông gốc và mang tính cá nhân hóa cao. Chandrasekaran cho biết: “Điều này bao gồm mọi thứ từ mạo danh giọng nói và video đến tác phẩm nghệ thuật giả mạo cũng như các cuộc tấn công có chủ đích”.

Mặc dù các tác nhân đe dọa có thể lạm dụng các hệ thống generative AI, nhưng chính các mô hình có thể khiến người dùng lệch hướng: ảo giác AI cung cấp thông tin sai lệch và tạo nên "sự thật". Chandrasekaran cho biết thêm, tỷ lệ ảo giác, tùy thuộc vào lĩnh vực, có thể là 10% đến 20% phản hồi của các công cụ AI.

Theo dõi các vấn đề pháp lý và sai lệch thuật toán

Generative AI cũng có thể gặp phải các vấn đề về sở hữu trí tuệ, khiến các doanh nghiệp phải đối mặt với hành lang pháp lý. Chandrasekaran cho biết: “Các mô hình Generative AI có thêm rủi ro khi tìm kiếm dữ liệu đào tạo ở quy mô lớn mà không xem xét sự chấp thuận của người sáng tạo, điều này có thể dẫn đến các vấn đề về bản quyền”.

Sai lệch thuật toán là một nguồn rủi ro pháp lý khác. Các mô hình Generative AI, khi được đào tạo trên dữ liệu bị lỗi, không đầy đủ hoặc không mang tính đại diện, sẽ tạo ra kết quả mang tính định kiến.

Nếu không được kiểm soát, sự thiên vị AI sẽ lan truyền khắp hệ thống và ảnh hưởng đến những người ra quyết định dựa trên kết quả, có khả năng dẫn đến hành vi phân biệt đối xử.

Cung cấp sự phối hợp và giám sát

Các công nghệ mới thường buộc các tổ chức phải thành lập các trung tâm xuất sắc (CoE) để tập trung vào việc áp dụng và triển khai hiệu quả. Những trung tâm như vậy có thể đóng một vai trò quan trọng trong Generative AI.

“Nếu bạn không có một nhóm làm việc để hiểu khả năng này và tận dụng nó, bạn đang có nguy cơ lạc hậu”. Alejo cảnh báo: “Các trung tâm xuất sắc nên tồn tại ở mọi ngành, mọi tổ chức.”

Một nhóm chuyên môn như vậy cũng có thể xây dựng các chính sách để quản lý việc sử dụng Generative AI. Alejo khuyên: "Nên dẫn đầu việc thiết kế chính sách và đưa ra quyết định về cách các cá nhân khác nhau trong tổ chức có thể sử dụng nó." Ông nói thêm, trung tâm này nên kêu gọi ý kiến đóng góp của các bên liên quan, bao gồm pháp lý, CNTT và có thể là các bộ phận khác như tiếp thị, nhân sự và R&D.

CMC Cloud - Giải pháp Điện toán đám mây Toàn diện & Linh hoạt nhất. Cho phép tùy biến sử dụng và quản trị 25+ dịch vụ