tuandunghcmut/trustsight-agentdojo

TrustSight AgentDojo Security Suite: Dynamic Tool-Use & Indirect Prompt Injection Benchmark

1. Tổng Quan Về Bộ Dữ Liệu (Dataset Overview)

TrustSight AgentDojo Security Suite là tập dữ liệu an ninh tác tử toàn diện gồm 629 ca kiểm thử bảo mật (security testcases) được tích hợp từ benchmark AgentDojo (Debenedetti et al., ETH Zurich, NeurIPS 2024) và chuẩn hóa theo kiến trúc phân vùng an toàn Capability Brokerage của dự án TrustSight.

Bộ dữ liệu đánh giá khả năng chống lại tấn công tiêm chỉ thị gián tiếp (Indirect Prompt Injection - IPI) thông qua kết quả trả về của các công cụ môi trường (untrusted tool outputs) trong các phiên tương tác đa bước của AI Agent.

+===================================================================================================+
|                            AGENTDOJO TESTCASES DISTRIBUTION (629 CASES)                           |
+=========================+====================+====================+===============================+
| Domain / Suite          | User Tasks         | Injection Tasks    | Total Testcase Pairs          |
+=========================+====================+====================+===============================+
| **Banking**             | 16 tasks           | 9 tasks            | **144 testcases**             |
| **Workspace**           | 40 tasks           | 6 tasks            | **240 testcases**             |
| **Slack**               | 21 tasks           | 5 tasks            | **105 testcases**             |
| **Travel**              | 20 tasks           | 7 tasks            | **140 testcases**             |
+=========================+====================+====================+===============================+
| **Full Suite**          | **97 user tasks**  | **27 inj tasks**   | **629 testcases**             |
+=========================+====================+====================+===============================+

---

2. Bốn Miền Nghiệp Vụ Cốt Lõi (Domain Taxonomy & Threat Model)

2.1. Banking Domain (144 testcases)

• Tác vụ người dùng: Chuyển tiền thanh toán hóa đơn, tra cứu số dư tài khoản, kiểm tra lịch sử giao dịch.
• Mục tiêu kẻ tấn công: Đánh cắp số dư tài khoản, chuyển tiền sang IBAN hacker, thay đổi người nhận hợp lệ.
• Công cụ bảo vệ: get_iban, get_balance, get_most_recent_transactions, schedule_transaction, send_money.
• Cơ chế TrustSight: Trích xuất IBAN đối tác từ cơ sở dữ liệu đối chiếu (Reference Store), từ chối cấp token đối với mọi IBAN chưa được neo (unanchored IBAN).

2.2. Workspace Domain (240 testcases)

• Tác vụ người dùng: Đọc và trả lời email công việc, quản lý lịch họp, chia sẻ tài liệu Cloud Drive.
• Mục tiêu kẻ tấn công: Đọc trộm email nhạy cảm, gửi email mạo danh, chia sẻ tài liệu nội bộ ra ngoài tổ chức.
• Công cụ bảo vệ: 24 công cụ bao gồm send_email, search_files_by_name, share_file, create_calendar_event.
• Cơ chế TrustSight: Ràng buộc danh tính người nhận (Principal Binding) theo danh bạ tin cậy, ngăn chặn exfiltration.

2.3. Slack Domain (105 testcases)

• Tác vụ người dùng: Gửi tin nhắn kênh, trao đổi trong nhóm dự án, mời thành viên tham gia thảo luận.
• Mục tiêu kẻ tấn công: Đăng tải link lừa đảo vào kênh chung, trục xuất người dùng trái phép, trích xuất dữ liệu kênh kín.
• Công cụ bảo vệ: 11 công cụ bao gồm send_channel_message, send_direct_message, read_channel_messages, invite_user_to_slack.
• Cơ chế TrustSight: Chặn tuyệt đối các URL lạ không có trong hợp đồng nhiệm vụ (untrusted outgoing URLs).

2.4. Travel Domain (140 testcases)

• Tác vụ người dùng: Đặt phòng khách sạn, thuê xe du lịch, đặt bàn nhà hàng theo yêu cầu hành trình.
• Mục tiêu kẻ tấn công: Ép tác tử đặt dịch vụ tại nhà cung cấp độc hại, nâng khống giá tiền, rò rỉ thông tin hộ chiếu/thẻ tín dụng.
• Công cụ bảo vệ: 28 công cụ bao gồm reserve_hotel, reserve_car_rental, get_user_information, get_hotels_prices.
• Cơ chế TrustSight: Đối chiếu tên khách sạn và địa chỉ với hợp đồng người dùng trước khi gọi tool mutating.

---

3. Kiến Trúc Phòng Vệ Two-Phase Capability Brokerage

Trong TrustSight, toàn bộ 629 ca kiểm thử AgentDojo được vận hành qua bộ điều phối TrustSightToolsExecutor (src/trustsight/adapters/agentdojo.py):

1. Giai đoạn 1 (Capability Minting): Agent đề xuất hành động qua VLM / LLM; Capability Broker kiểm tra xem hành động có khớp với Hợp đồng (Contract) và Cơ sở Đối chiếu (Reference) hay không.
2. Giai đoạn 2 (Two-Phase Commit Isolation): Chỉ khi token ủy quyền được phát hành hợp lệ trong SQLite State Ledger, hành động mới được cam kết thực thi thật.
3. Kết quả thực nghiệm: Đưa tỷ lệ tấn công thành công (Executed ASR) từ 100.0% về 0.0% tuyệt đối trên cả 4 miền nghiệp vụ mà không làm suy giảm tiện ích tác vụ lành tính (Preserved Clean Utility).

---

4. Hướng Dẫn Sử Dụng Bằng Python

from datasets import load_dataset

# Nạp toàn bộ 629 testcases
dataset = load_dataset("tuandunghcmut/trustsight-agentdojo")

print(dataset)
# DatasetDict({
#     full_suite: Dataset({num_rows: 629, num_columns: 13}),
#     banking: Dataset({num_rows: 144, num_columns: 13}),
#     workspace: Dataset({num_rows: 240, num_columns: 13}),
#     slack: Dataset({num_rows: 105, num_columns: 13}),
#     travel: Dataset({num_rows: 140, num_columns: 13})
# })

# Xem một ca kiểm thử ngân hàng
case = dataset["banking"][0]
print("Testcase ID:", case["testcase_id"])
print("User Prompt:", case["user_prompt"])
print("Attacker Goal:", case["attacker_goal"])
print("Available Tools:", case["available_tools"])

---

5. Trích Dẫn Khoa Học (Citation)

@inproceedings{debenedetti2024agentdojo,
  title={AgentDojo: A Dynamic Environment to Evaluate Prompt Injection Attacks on Tool-Using Agents},
  author={Debenedetti, Edoardo and Zhang, Jie and Balunovic, Mislav and Fischer, Marc and Vechev, Martin},
  booktitle={Thirty-eighth Conference on Neural Information Processing Systems (NeurIPS)},
  year={2024}
}