오늘, 우리는 Managed Deep Agents를 비공개 베타로 소개합니다. 이는 Deep Agent를 만들고, 실행하고, 운영하기 위한 API 우선 호스팅 런타임입니다.
Deep Agents는 개발자에게 계획을 세우고, 도구를 사용하고, 하위 에이전트에게 위임하고, 파일을 작성하고, 장기간에 걸쳐 작업할 수 있는 에이전트를 구축하기 위한 오픈소스 도구를 제공합니다. Managed Deep Agents는 이러한 에이전트에 LangSmith에서 지속적인 홈을 제공합니다.
Managed Deep Agents API를 통해, 당신의 자체 애플리케이션이나 내부 플랫폼 워크플로우에서 프로그래밍 방식으로 에이전트를 생성, 업데이트, 관리 및 실행할 수 있습니다.
더 광범위한 셀프서비스 액세스 이전에 실제 워크플로우를 구축하는 팀과 긴밀하게 협력할 수 있도록 먼저 디자인 파트너에게 API를 오픈하고 있습니다.
왜 Managed Deep Agents인가
유용한 에이전트를 구축하는 것은 점점 더 쉬워지고 있습니다. 하지만 프로덕션에서 실행하는 것은 여전히 어렵습니다.
장기 실행 에이전트는 모델 호출만으로는 부족합니다. 지속적인 실행, 스트리밍, 메모리, 파일, 도구 액세스, 인간 승인, 샌드박스, 추적, 그리고 시간이 지남에 따라 개선할 수 있는 방법이 필요합니다.
팀은 이 인프라를 직접 구축할 수 있지만, 에이전트가 사용자에게 도달하기 전에 많은 것을 관리해야 합니다. 결국 에이전트 자체와 함께 런타임 인프라, 파일 스토리지, 도구 구성, 샌드박스 실행, 스레드 상태, 추적 및 피드백 루프를 유지해야 합니다.
Managed Deep Agents는 오픈소스 Deep Agents 도구 주변의 운영 계층을 패키징하여, 개발자가 런타임을 재구축하는 대신 에이전트 동작에 집중할 수 있도록 합니다.
비공개 베타에서 출시하는 내용
비공개 베타는 LangSmith에서 Deep Agent를 실행하기 위한 소규모의 관리형 기본 요소에 초점을 맞춥니다.
관리형 런타임
Managed Deep Agents를 사용하면 커스텀 에이전트 서버를 구축하지 않고도 관리형 Deep Agent를 생성할 수 있습니다.
런타임은 지속적인 스레드, 스트리밍 실행, 체크포인팅 및 인간-루프 워크플로우를 지원합니다. API를 사용하여 당신의 제품이나 플랫폼 워크플로우에서 에이전트를 생성하고, 구성을 업데이트하고, 스레드를 생성하고, 실행을 스트리밍할 수 있습니다.
API 표면은 /v1/deepagents 아래에서 사용할 수 있습니다.
에이전트 컨텍스트 및 파일
Managed Deep Agents는 AGENTS.md, skills/, subagents/, 그리고 tools.json을 포함한 친숙한 Deep Agents 프로젝트 형태를 유지합니다.
이 파일들은 에이전트의 동작 방식, 사용할 수 있는 도구, 로드할 수 있는 전문 기술, 그리고 작업을 위임할 수 있는 하위 에이전트를 정의합니다. Managed Deep Agents는 이 파일들을 LangSmith에 저장하고 버전 관리하므로, 에이전트 정의는 시간이 지남에 따라 진화할 수 있습니다.
Context Hub는 에이전트에게 실행 전반에 걸쳐 필요한 컨텍스트를 유지하고 업데이트할 수 있는 관리형 공간을 제공합니다. 이는 사용자 선호도, 프로젝트 세부사항, 연구 노트, 운영 절차 또는 기타 작업 컨텍스트를 추적해야 하는 에이전트에게 중요합니다.
선택적으로 LangSmith Engine을 활성화하여 에이전트 트레이스를 검토하고 에이전트 프롬프트 및 코드 전반에서 버그 및 개선 영역을 찾을 수 있습니다. 실행 사이에 에이전트는 대화를 검토하고, 실제 사용법을 학습하고, Context Hub 파일을 업데이트할 수 있습니다.
시간이 지남에 따라, 이를 통해 에이전트는 실제로 수행하는 작업에서 개선할 수 있습니다. 예를 들어, 지원 트리아지 에이전트의 경우 LangSmith Engine은 사용자가 동일한 내부 프로세스에 대해 계속 질문하고 있음을 감지하고 운영 노트를 업데이트할 수 있습니다.
LangSmith Engine 출시 포스트에서 자세히 알아보세요.
도구 및 샌드박스
도구는 Deep Agents에서 사용하는 것과 동일한 모델인 tools.json을 통해 구성됩니다. tools.json에 정의된 모든 도구에서 Human-in-the-loop을 활성화할 수 있습니다.
Managed Deep Agents는 또한 코드, 셸 명령 및 파일 I/O가 필요한 워크플로우를 위한 샌드박스 기반 실행을 지원합니다. 이는 데이터를 분석하고, 파일을 조작하고, 스크립트를 실행하거나, 작업의 일부로 아티팩트를 생성해야 하는 에이전트에 유용합니다.
각 에이전트마다 도구 및 샌드박스 설정을 재구축하는 대신, 관리형 런타임에서 해당 구성을 유지하고 LangSmith를 통해 운영할 수 있습니다.
LangSmith 가시성
Managed Deep Agents 실행은 LangSmith에서 자동으로 추적됩니다. 팀은 도구 호출을 검사하고, 동작을 디버깅하고, 중간 단계를 검토하고, 에이전트가 시간이 지남에 따라 어떻게 개선되는지 이해할 수 있습니다.
이를 통해 개발자는 에이전트 및 LLM 애플리케이션에 이미 사용 중인 것과 동일한 관찰성 워크플로우를 관리형 런타임에 직접 연결할 수 있습니다.
작동 방식
출시 경로는 API 우선입니다. Managed Deep Agents API를 사용하여 에이전트를 생성하거나 업데이트한 다음, 이를 정의하는 파일을 업로드하거나 참조합니다. 여기에는 지침, 기술, 하위 에이전트 및 도구 구성이 포함됩니다.
그곳에서 커스텀 에이전트 서버를 배포하지 않고도 스레드를 생성하고 앱에서 실행을 스트리밍할 수 있습니다. 에이전트가 실행되면 LangSmith에서 트레이스 및 에이전트 컨텍스트를 검사할 수 있습니다.
이를 통해 가능해지는 것
Managed Deep Agents는 장기간에 걸쳐 작업하고, 도구를 사용하고, 컨텍스트를 보존하고, 아티팩트를 생성해야 하는 에이전트를 위해 설계되었습니다.
몇 가지 예시:
- 지원 및 트리아지 에이전트 - 장기 실행 스레드 전반에 걸쳐 작업하고, 이전 컨텍스트를 추적하고, 필요할 때 에스컬레이션하고, 반복되는 문제로부터 자신의 운영 노트를 업데이트합니다.
- 연구 에이전트 - 소스를 수집하고, 노트를 작성하고, 중간 발견을 보존하고, 여러 세션에 걸쳐 결과물을 생성합니다.
- 코딩 에이전트 - 파일시스템, 셸 명령, 도구 액세스 및 더 긴 작업을 위한 재개 가능한 실행이 필요합니다.
- 데이터 분석 에이전트 - 코드를 실행하고, 아티팩트를 보존하고, 탐색적 워크플로우 전반에 걸쳐 컨텍스트를 유지합니다.
- 내부 운영 에이전트 - 온보딩 어시스턴트, 정책 에이전트 또는 워크플로우 조정자와 같이 반복 사용으로부터 자신의 컨텍스트를 개선합니다.
이러한 에이전트는 프롬프트와 도구 호출 이상의 것이 필요합니다. 지속적인 작업을 지원할 수 있는 런타임이 필요합니다.
오픈소스 Deep Agents 위에 구축됨
Managed Deep Agents는 LangSmith 관리 런타임 인프라를 원하는 팀을 위한 가장 빠른 경로입니다. 에이전트 정의를 저장소에 유지한 다음 API를 사용하여 LangSmith에서 관리형 에이전트를 생성하고 운영할 수 있습니다.
즉, 개발자는 오픈소스 도구로 구축하면서 LangSmith의 지속적인 실행, 호스팅된 컨텍스트, 샌드박스 기반 워크플로우에 의존할 수 있으며, 모두 LangSmith 관찰성과 통합됩니다.
시작하기
Managed Deep Agents는 비공개 베타로 사용 가능합니다.
지속적인 실행, 도구, 샌드박스, 추적 및 프로덕션으로의 관리형 경로가 필요한 Deep Agent를 구축하고 있다면, 비공개 베타 대기열에 참여하세요.
또한 문서를 읽어 API를 통해 관리형 Deep Agent를 배포하는 방법을 알아볼 수 있습니다.