Triển Khai Ứng Dụng AI Trong Thời Đại Agentic

Nếu bạn muốn người dùng áp dụng sản phẩm AI của mình, câu chuyện triển khai phải mạnh mẽ như chính các tính năng của nó.

Trong vài thập kỷ qua, ngành công nghiệp phần mềm đã trải qua nhiều chuyển đổi lớn. Mỗi lần chuyển đổi không chỉ định hình cách thức các sản phẩm được cung cấp mà còn cả cách mà chúng được tin tưởng.

Các Kỷ Nguyên Trong Ngành Phần Mềm

Kỷ Nguyên Client-Server (khoảng năm 2000)

• Các ứng dụng như SAP và PeopleSoft được khách hàng mua và triển khai trong môi trường "on-prem" của họ. Khách hàng kiểm soát nhưng cũng phải đối mặt với độ phức tạp trong việc mua sắm và triển khai phần cứng, phần mềm hệ thống và các ứng dụng.

Kỷ Nguyên SaaS (khoảng năm 2010)

• Các ứng dụng như Salesforce và Workday hoạt động trên đám mây của nhà cung cấp và được cung cấp qua trình duyệt. Điều này đơn giản hóa hoạt động cho khách hàng, nhưng cũng đồng nghĩa với việc dữ liệu của họ bị kẹt trong các ứng dụng này, với các quy tắc sở hữu và sử dụng dữ liệu không rõ ràng.

Kỷ Nguyên Agentic

• Hiện nay, chúng ta đang bước vào Kỷ Nguyên Agentic. Các ứng dụng Agentic hứa hẹn mang lại sự gia tăng năng suất chưa từng có, nhưng để làm được điều đó, chúng cần truy cập vào những dữ liệu nhạy cảm nhất của doanh nghiệp: cuộc trò chuyện, tài liệu, quyết định. Khách hàng không muốn chuyển giao dữ liệu như vậy cho một nhà cung cấp bên ngoài không rõ ràng và không đáng tin cậy. Thay vào đó, họ mong đợi các sản phẩm này hoạt động bên trong tài khoản đám mây của họ (dù là AWS, GCP hay bất kỳ dịch vụ nào khác), với sự tuân thủ của họ và dưới kiểm soát an ninh của họ.

Điều này không phải là một điều chỉnh nhỏ. Đây là nền tảng của cách thế hệ phần mềm tiếp theo sẽ được tin tưởng và áp dụng.

Tại Sao Kỷ Nguyên Agentic Thay Đổi Cách Chơi

Sản phẩm AI không giống như các công cụ SaaS. Chúng không chỉ quản lý quy trình làm việc, mà còn xử lý những tài sản quý giá nhất của một doanh nghiệp. Để thành công trong môi trường này, ba điều kiện sau đây phải được đảm bảo:

• Dữ liệu ở lại với khách hàng: không rò rỉ nội dung nhạy cảm ra ngoài môi trường của họ.
• Triển khai hoạt động trên nhiều đám mây: AWS, GCP, Azure, hoặc bất kỳ nơi nào mà khách hàng hoạt động.
• An ninh và tuân thủ được tích hợp sẵn: IAM, mạng và các chính sách được thiết lập đúng ngay từ đầu.

Điều này không phải là một chi tiết kỹ thuật. Đây là lớp tin cậy quyết định xem việc áp dụng có xảy ra hay không.

Ví Dụ Của ekai

ekai là một bản sao kỹ thuật số AI giúp tăng năng suất bằng cách ghi lại các cuộc họp, tổng hợp các nhiệm vụ và hoạt động như một người bạn đồng hành trên Slack. Để được tin cậy, nó phải hoạt động bên trong tài khoản đám mây của khách hàng.

ekai cần một giải pháp triển khai duy nhất có thể chạy trên bất kỳ đám mây nào và cung cấp trải nghiệm nhất quán, đáng tin cậy với cùng các tính năng ở mọi nơi. Giống như nhiều nhà phát triển AI khác, họ đã phải đối mặt với thách thức trong việc cung cấp các triển khai an toàn, tuân thủ trên AWS, GCP và các môi trường khác mà không mất nhiều tuần cho việc DevOps tùy chỉnh cho từng khách hàng.

Đó là nơi Defang xuất hiện.

Với Defang, ekai chỉ cần định nghĩa ứng dụng của mình một lần trong Docker Compose. Defang biến định nghĩa đó thành một triển khai sẵn sàng cho sản xuất bên trong tài khoản đám mây của khách hàng. Tính toán, lưu trữ, mạng, vai trò IAM, nhóm bảo mật, và thậm chí cả LLM được quản lý đều được cung cấp tự động, theo đúng các thực hành tốt nhất cho mỗi đám mây.

Những gì trước đây mất hàng tuần để lập trình giờ đây diễn ra chỉ trong vài giờ. Quan trọng hơn, mỗi triển khai đều an toàn, tuân thủ và thuộc quyền sở hữu của khách hàng.

"Defang là lựa chọn lý tưởng cho chúng tôi. Chúng tôi chỉ cần mô tả ekai như một ứng dụng Docker Compose, và Defang lo mọi thứ khác. Từ tính toán và lưu trữ đến vai trò IAM và LLM được quản lý, Defang đảm bảo rằng các triển khai của chúng tôi là an toàn, có thể mở rộng và phù hợp với đám mây. Đó là một lợi ích lớn cho chúng tôi và cho khách hàng của chúng tôi."
Ash Tiwari, Người sáng lập & CEO, ekai

Defang Và Kỷ Nguyên Agentic

ekai không phải là một trường hợp đơn lẻ. Nó là một cái nhìn trước về những gì Kỷ Nguyên Agentic yêu cầu. Khi các sản phẩm AI đi sâu vào quy trình làm việc quan trọng, việc triển khai sẽ quyết định việc áp dụng.

Defang tồn tại để làm điều này trở nên khả thi.

• Định nghĩa ứng dụng của bạn một lần, bất kể framework: CrewAI, LangGraph, AutoGen, Strands.
• Triển khai lên bất kỳ đám mây nào trong một bước duy nhất.
• Giữ dữ liệu của khách hàng trong môi trường của khách hàng.
• Căn chỉnh các triển khai với các thực hành tốt nhất về cloud-native một cách tự động.

Cũng giống như các nền tảng SaaS đã mở khóa một thập kỷ áp dụng đám mây, Defang là nền tảng cho AI thuộc sở hữu của khách hàng.

Kết Luận

Trong Kỷ Nguyên Agentic, sự tin cậy chính là sản phẩm. Làn sóng tiếp theo của việc áp dụng AI sẽ không được quyết định bởi các tính năng, mà bởi nơi và cách mà các sản phẩm hoạt động. Các công ty tôn trọng quyền sở hữu dữ liệu và cung cấp các triển khai an toàn, cloud-native sẽ giành được lòng tin và mở rộng quy mô. Những ai không làm như vậy sẽ bị bỏ lại phía sau.

Defang là cơ sở hạ tầng vô hình giúp cho kỷ nguyên này trở nên khả thi.