LangChain Công Bố Agent Middleware Cho Phát Triển AI Harness Tùy Chỉnh

Felix Pinkston 26/03/2026 15:31 (Giờ VN)

LangChain giới thiệu hệ thống AgentMiddleware cho phép các nhà phát triển tùy chỉnh hành vi AI Agent với các hook để phát hiện PII, lựa chọn công cụ động và các tính năng sẵn sàng sản xuất.

LangChain đã phát hành một hệ thống middleware toàn diện cho phép các nhà phát triển tùy chỉnh hành vi AI Agent mà không cần xây dựng lại cơ sở hạ tầng cốt lõi từ đầu. Framework này, được trình bày chi tiết trong bài đăng blog ngày 26/03/2026, giới thiệu sáu hook riêng biệt để chặn và sửa đổi việc thực thi agent ở mọi giai đoạn của vòng lặp.

Kiến trúc middleware giải quyết một điểm khó khăn dai dẳng trong phát triển agent: khoảng cách giữa các prototype sẵn sàng demo và hệ thống sản xuất. Trong khi việc tùy chỉnh cơ bản như thay đổi system prompt hoặc thêm công cụ luôn đơn giản, việc sửa đổi vòng lặp agent cơ bản—những gì xảy ra trước khi gọi model, cách công cụ thực thi, khi nào con người can thiệp—đòi hỏi mã tùy chỉnh mở rộng.

Cách Thức Hoạt Động Của Hệ Thống Hook

AgentMiddleware cung cấp sáu điểm can thiệp. before_agent kích hoạt một lần khi khởi động để tải bộ nhớ hoặc xác thực đầu vào. before_model chạy trước mỗi lần gọi LLM, hữu ích cho việc cắt bỏ lịch sử hoặc bắt dữ liệu nhạy cảm. wrap_model_call xử lý caching, thử lại và liên kết công cụ động. wrap_tool_call thực hiện tương tự cho việc thực thi công cụ. after_model chèn vào quy trình làm việc human-in-the-loop. after_agent xử lý dọn dẹp và thông báo.

Các middleware này xếp chồng lên nhau. Các nhà phát triển có thể tạo nhiều lớp sửa đổi mà không xung đột.

Giải Pháp Tích Hợp Sẵn Cho Các Vấn Đề Phổ Biến

LangChain đi kèm middleware được xây dựng sẵn cho các mẫu xuất hiện liên tục trong các triển khai sản xuất. PIIMiddleware triển khai hook before_model và after_model để che giấu, biên tập hoặc băm thông tin nhận dạng cá nhân—quan trọng cho tuân thủ HIPAA nơi bạn không thể đơn giản prompt theo cách hợp pháp.

LLMToolSelectorMiddleware giải quyết tình trạng phình to ngữ cảnh bằng cách chạy một model nhanh để xác định các công cụ liên quan từ registry trước lời gọi chính, chỉ liên kết những gì cần thiết. SummarizationMiddleware ngăn chặn tràn ngữ cảnh bằng cách nén lịch sử tin nhắn khi số lượng token tăng quá cao.

ModelRetryMiddleware bao bọc các lời gọi API với logic thử lại có thể cấu hình—số lần thử lại, hệ số backoff, độ trễ ban đầu cho giới hạn tốc độ. ShellToolMiddleware xử lý khởi tạo tài nguyên và dọn dẹp xung quanh các vòng lặp agent.

Deep Agents Như Bằng Chứng Về Khái Niệm

LangChain đã xây dựng Deep Agents hoàn toàn trên ngăn xếp middleware này để xác thực kiến trúc. Agent harness chạy trên create_agent, điểm vào tiêu chuẩn của LangChain, với middleware chuyên biệt được xếp lớp phía trên: FilesystemMiddleware cho quản lý ngữ cảnh dựa trên file, SubagentMiddleware cho subagent được cô lập ngữ cảnh, SkillsMiddleware cho tiết lộ khả năng tiến bộ.

Cách tiếp cận này cho phép các nhóm sở hữu các mối quan tâm khác nhau một cách độc lập. Logic kinh doanh vẫn tách rời khỏi mã agent cốt lõi. Middleware có thể tái sử dụng có thể lan rộng qua các tổ chức mà không kết nối chặt chẽ.

Ý Nghĩa Của Điều Này Đối Với Phát Triển Agent

LangChain thừa nhận rằng việc cải thiện khả năng model cuối cùng sẽ hấp thụ một số chức năng middleware hiện tại—tóm tắt, lựa chọn công cụ, cắt bỏ đầu ra có thể chuyển vào chính các model. Nhưng thực thi chính sách xác định, guardrail sản xuất và logic cụ thể cho doanh nghiệp sẽ không di chuyển. Những thứ đó vẫn ở lớp harness.

Các nhà phát triển có thể bắt đầu với create_agent cho thiết lập tối thiểu hoặc create_deep_agent cho nền tảng mạnh mẽ hơn. Đóng góp middleware tùy chỉnh được chấp nhận thông qua tài liệu tích hợp của LangChain.

• langchain
• ai agents
• middleware
• deep agents
• công cụ phát triển