0
0
Lập trình
Thaycacac
Thaycacac thaycacac

Khám Phá Amazon Bedrock AgentCore: Triển Khai AI Đáng Tin Cậy

Đăng vào 2 tuần trước

• 4 phút đọc

Giới Thiệu

Khi chúng ta chứng kiến sự phát triển của các tác nhân AI, nhiều lập trình viên đã chia sẻ rằng trải nghiệm của họ trong việc triển khai các tác nhân vẫn chủ yếu là tại chỗ và thử nghiệm. Việc chuyển đổi từ Proof of Concept (PoC) sang sản phẩm có thể sản xuất là một thách thức lớn. Bài viết này sẽ giới thiệu về dịch vụ Amazon Bedrock AgentCore mới của AWS và trải nghiệm đầu tiên của tôi khi sử dụng nó.

Tại Sao Cần Amazon Bedrock AgentCore?

Như đã đề cập, việc chuyển từ PoC sang sản phẩm là một thách thức. Amazon Bedrock AgentCore được ra mắt vào ngày 16 tháng 7 và nhắm đến việc hỗ trợ lập trình viên triển khai các tác nhân AI quy mô lớn với cơ sở hạ tầng linh hoạt, khả năng mở rộng và các biện pháp bảo mật cần thiết.

Mô Hình Tư Duy Mới

Một điểm độc đáo của AgentCore là nó cung cấp một bộ công cụ mô-đun cho phép lập trình viên chọn và sử dụng các thành phần theo nhu cầu của họ. Điều này giúp dễ dàng tùy chỉnh và mở rộng ứng dụng của bạn.

Các Thành Phần của AgentCore 🧩

Dưới đây là tổng quan về 7 thành phần của AgentCore đang trong giai đoạn thử nghiệm:

  1. AgentCore Runtime: Môi trường chạy không máy chủ, an toàn để triển khai và mở rộng các tác nhân AI.
  2. AgentCore Identity: Quản lý danh tính và quyền truy cập cho các tác nhân.
  3. AgentCore Memory: Hỗ trợ trí nhớ ngắn hạn và dài hạn cho các cuộc hội thoại.
  4. AgentCore Code Interpreter: Cho phép các tác nhân thực thi mã trong môi trường cách ly.
  5. AgentCore Browser: Trình duyệt dựa trên đám mây cho phép các tác nhân tương tác với các trang web.
  6. AgentCore Gateway: Cách bảo mật để phát hiện và sử dụng các công cụ.
  7. AgentCore Observability: Giúp lập trình viên theo dõi và giám sát hiệu suất của tác nhân.

Hiện tại, AgentCore chỉ khả dụng tại một số khu vực nhất định như US East, US West, Châu Á Thái Bình Dương và Châu Âu.

Trải Nghiệm của Tôi với AgentCore Runtime 🔨

Tôi đã dành một ngày để tìm hiểu AgentCore mà không có bất kỳ kiến thức nào trước đó. Dưới đây là những điểm nổi bật trong trải nghiệm của tôi:

Bắt Đầu Với AgentCore

Tôi bắt đầu hành trình của mình từ GitHub chính thức của AWS, nơi có nhiều tùy chọn học tập khác nhau như:

  • Triển khai tác nhân trên Runtime
  • Triển khai máy chủ MCP trên Runtime
  • Các khái niệm nâng cao
  • Triển khai MCP dựa trên TypeScript trên Runtime

Tôi chọn triển khai tác nhân trên Runtime với một ví dụ từ OpenAI. Mặc dù bình thường tôi thích Jupyter Notebooks, nhưng ví dụ này có nhiều phức tạp và khó theo dõi. Dưới đây là mã trong tệp agent.py của tôi:

python Copy
import os
from bedrock_agentcore.runtime import BedrockAgentCoreApp
from strands import Agent
from strands.models.anthropic import AnthropicModel
from strands_tools import use_aws 

app = BedrockAgentCoreApp()

model = AnthropicModel(
    client_args={
        "api_key": os.getenv("api_key"),
    },
    max_tokens=1028,
    model_id="claude-sonnet-4-20250514",params={"temperature": 0.3,}
)

agent = Agent(model=model, tools =[use_aws])

@app.entrypoint

def strands_agent_anthropic(payload):
    """
    Kích hoạt tác nhân với payload
    """
    user_input = payload.get("prompt")
    response = agent(user_input)
    return response.message["content"][0]['text'].replace('\\n', '\n')

if __name__ == "__main__":
    app.run()

Triển Khai Tác Nhân

Sau khi chuẩn bị, tôi cần triển khai tác nhân lên Runtime. Có hai cách để thực hiện điều này:

  1. Thủ công (yêu cầu nhiều bước và kinh nghiệm về Docker).
  2. Sử dụng bộ công cụ khởi đầu của AgentCore, giúp quản lý nhiều bước triển khai.

Sử dụng bộ công cụ khởi đầu, tôi thực hiện các bước:

  1. Cấu hình tác nhân với giá trị mặc định: agentcore configure -e agent.py.
  2. Triển khai tác nhân lên Runtime: agentcore launch.

Khó Khăn và Thách Thức 😵‍💫

Trong quá trình sử dụng, tôi gặp phải một số khó khăn:

  • Không có thông tin về việc kích hoạt khả năng quan sát cho tác nhân, điều này gây khó khăn trong việc gỡ lỗi.
  • Cần cấp quyền IAM cho tác nhân, điều này có thể khó khăn trong việc thiết lập.

Kết Luận

Mặc dù có một số thách thức, nhưng việc sử dụng AgentCore đã mang lại những trải nghiệm tích cực. Tôi sẽ tiếp tục khám phá các thành phần khác như Memory và Gateway trong thời gian tới.

Hãy cho tôi biết nếu bạn có câu hỏi nào khác và điều gì bạn muốn tôi viết tiếp nhé!

Tài Nguyên Bổ Sung 📚

Gợi ý câu hỏi phỏng vấn
Không có dữ liệu

Không có dữ liệu

Bài viết được đề xuất
Bài viết cùng tác giả

Bình luận

Chưa có bình luận nào

Chưa có bình luận nào