Giới thiệu về Google Cloud Armor
Google Cloud Armor là một giải pháp bảo mật giúp bảo vệ hạ tầng và ứng dụng của bạn khỏi các cuộc tấn công từ chối dịch vụ phân tán (DDoS) dựa trên mạng hoặc giao thức ở tầng 3/4, các cuộc tấn công volumetric ở tầng 7 và các cuộc tấn công nhắm mục tiêu khác. Sản phẩm này tận dụng mạng lưới toàn cầu của Google và hạ tầng phân tán để phát hiện và hấp thụ các cuộc tấn công, đồng thời lọc lưu lượng truy cập thông qua các chính sách bảo mật có thể cấu hình bởi người dùng tại biên của mạng Google, ở xa các khối công việc của bạn.
Bảo vệ Mô Hình LLM
Google Cloud Armor không chỉ bảo vệ hạ tầng mà còn giúp bảo vệ các mô hình ngôn ngữ lớn (LLM) khỏi những mối đe dọa quan trọng như được nêu trong danh sách 10 lỗ hổng LLM hàng đầu của OWASP. Cụ thể, các mối đe dọa bao gồm:
- Tệp độc hại và URL không an toàn
- Tiêm lệnh và jailbreak
- Dữ liệu nhạy cảm
- Nội dung không phù hợp
Các tính năng chính của Google Cloud Armor
Google Cloud Armor cung cấp một số tính năng nổi bật:
Cài đặt Floor
Cài đặt floor thiết lập các yêu cầu bảo mật tối thiểu mà tất cả các cấu hình tùy chỉnh trong mẫu phải đáp ứng. Nó là nền tảng bảo mật cho toàn bộ hệ thống.
Mức tổ chức
- Cài đặt floor ở mức tổ chức sẽ thêm yêu cầu tối thiểu cho tất cả các mẫu liên quan đến bất kỳ dự án nào và bất kỳ thư mục nào trong tổ chức.
Mức thư mục
- Cài đặt floor ở mức thư mục thêm yêu cầu tối thiểu cho tất cả các mẫu liên quan đến bất kỳ dự án nào trong thư mục.
Mức dự án
- Cài đặt floor ở mức dự án thêm yêu cầu tối thiểu cho tất cả các mẫu liên quan đến một dự án cụ thể.
Mẫu
- Một mẫu là bảng điều khiển của bạn, cho phép bạn điều chỉnh chính xác cách mà Model Armor kiểm tra các prompt và phản hồi.
Cấp độ tự tin
Google Cloud Armor phân loại các yêu cầu thành ba cấp độ tự tin:
Thấp và cao hơn
- Mức này sẽ kiểm tra hầu hết mọi thứ, ngay cả những vấn đề nhỏ nhất có dấu hiệu phù hợp với tiêu chí phát hiện.
Trung bình và cao hơn
- Mức này sẽ phát hiện các vấn đề mà có sự tương đồng vừa phải với tiêu chí phát hiện.
Cao và cao hơn
- Mức này sẽ rất tự tin rằng thông tin là một sự phù hợp mạnh với tiêu chí phát hiện.
Cách kích hoạt Model Armor trong Google Cloud
Để kích hoạt Model Armor, bạn chỉ cần thực hiện các bước sau:
- Truy cập vào Security Command Center.
- Chọn Model Armor.
- Kích hoạt API.
Cấu hình cài đặt floor
Cấu hình các cài đặt floor là một phần quan trọng trong việc bảo vệ mô hình của bạn. Dưới đây là các thành phần cần cấu hình:
Phát hiện
Cấu hình phát hiện cho phép bạn thiết lập các tiêu chí mà Model Armor sẽ sử dụng để kiểm tra các prompt và phản hồi.
AI có trách nhiệm
Thiết lập các chính sách sử dụng AI một cách có trách nhiệm, đảm bảo rằng các mô hình của bạn không sản sinh ra nội dung không phù hợp hoặc gây hại.
Cài đặt Floor đã lưu
Các cài đặt floor sẽ được lưu lại để sử dụng trong tương lai.
Cấu hình cài đặt mẫu
Sau khi bạn tạo mẫu, nó sẽ được lưu lại như sau:
Nhật ký
Model Armor là một công cụ đa nhiệm. Nó sẽ kiểm tra văn bản đi vào và ra khỏi LLM, đồng thời ghi lại mọi hoạt động. Những ghi chú này sẽ được hiển thị cho bạn dưới dạng nhật ký.
- Nhật ký hoạt động quản trị ghi lại chi tiết về các mẫu, cài đặt floor và các thao tác cơ bản (CRUD).
- Nhật ký truy cập dữ liệu ghi lại chi tiết về các thao tác kiểm tra. Ví dụ, mẫu nào đã được sử dụng để kiểm tra một prompt hoặc phản hồi, văn bản là gì và kết quả ra sao?
Trình duyệt nhật ký
Dưới đây là một số bộ lọc:
protoPayload.serviceName="modelarmor.googleapis.com"- Bộ lọc này sẽ cho bạn thấy các nhật ký audit theo dõi các hành động mẫu như tạo hoặc cập nhật.
protopayload.methodName="google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt"- Bộ lọc này sẽ hiển thị các nhật ký audit truy cập dữ liệu ghi lại việc kiểm tra prompt và phản hồi.
Mã mẫu Python
Dưới đây là đoạn mã Python mẫu cho việc sử dụng Google Cloud Armor:
python
# pip install google-cloud-modelarmor
from google.cloud import modelarmor_v1
import sys
# Tạo client
client = modelarmor_v1.ModelArmorClient(transport="rest", client_options={"api_endpoint": "modelarmor.us-central1.rep.googleapis.com"})
# Khởi tạo tham số yêu cầu
user_prompt_data = modelarmor_v1.DataItem()
# Lấy prompt từ tham số dòng lệnh
if len(sys.argv) > 1:
prompt = sys.argv[1]
else:
prompt = "Prompt mặc định."
# Thiết lập dữ liệu prompt cho cuộc gọi model armor
user_prompt_data.text = prompt
ma_request = modelarmor_v1.SanitizeUserPromptRequest(
name="projects/xxx-armor-demo-012346/locations/us-central1/templates/pijb-only",
user_prompt_data=user_prompt_data,
)
# Thực hiện yêu cầu MA
ma_response = client.sanitize_user_prompt(request=ma_request)
# Hành động dựa trên kết quả của Model Armor
if ma_response.sanitization_result.filter_results["pi_and_jailbreak"].pi_and_jailbreak_filter_result.match_state == modelarmor_v1.FilterMatchState.MATCH_FOUND:
print("Yêu cầu không vượt qua kiểm tra bảo mật. Lỗi.")
else:
print("Yêu cầu đã vượt qua kiểm tra bảo mật. Gửi prompt tới LLM.")Mô hình giá cả
Thông tin chi tiết về giá cả có thể xem tại: Google Cloud Armor Pricing.
Tài liệu tham khảo
Kết luận
Google Cloud Armor là một giải pháp mạnh mẽ cho việc bảo vệ các mô hình LLM và hạ tầng của bạn khỏi những mối đe dọa an ninh. Việc cấu hình và kích hoạt các tính năng của Google Cloud Armor sẽ giúp bạn đảm bảo rằng các mô hình của bạn hoạt động một cách an toàn và hiệu quả. Đừng ngần ngại khám phá thêm về Google Cloud Armor và áp dụng ngay hôm nay để bảo vệ hệ thống của bạn!
