챗봇 애플리케이션 상태

애플리케이션 상태(Application state)는 챗봇에 구성하는 문자열 또는 객체 집합 변수입니다. 이전에는 parameters라고 불렀습니다. Workshop의 AIP Chatbot 위젯에 넣으면 변수 목록이 표시되며 같은 자료형의 Workshop 변수에 매핑하여 입력을 제공하거나 다른 위젯에 출력을 표시합니다.

변수 구성

먼저 챗봇이 읽거나 갱신할 문자열 및 객체 집합을 정합니다. 현재 사용자가 선택한 대상 같은 기존 값이나 챗봇 결과를 받을 새 변수일 수 있습니다. 이름과 역할 설명을 작성하면 설명이 프롬프트에 들어가 사용 시점을 안내합니다.

값 가시성(Value visibility)은 LLM이 변수 내용을 볼 수 있는지를 정합니다. 필요한 값만 보이게 합니다. 온톨로지 검색 문맥의 입력 객체 집합은 관련 내용이 각 루프의 시스템 프롬프트에 제공되므로 변수 값 자체를 노출할 필요가 없을 수 있습니다. 시스템 프롬프트의 동적 부분을 담은 문자열은 LLM이 읽어야 하므로 가시성을 켜야 합니다.

변수는 온톨로지 문맥의 의미 검색 범위 또는 전체 객체 집합 입력, 함수 기반 문맥의 입력, Object query 도구의 객체 유형별 초기 집합으로 사용할 수 있습니다. 시스템 프롬프트에서는 /로 참조합니다. Debug application state에서 값을 직접 바꾸어 시험하고 챗봇이 값을 갱신했는지 확인합니다.

자동 갱신과 LLM 갱신

Object query, 함수 기반 문맥 또는 온톨로지 문맥의 출력과 변수를 연결하면 실행 후 최신 출력이 기록되고 LLM 스트리밍이 끝날 때 변수에 반영됩니다. 정해진 출력 매핑은 모델이 값을 다시 결정하는 방식보다 혼동을 줄일 수 있으며 변수 내용을 모델에 숨긴 채 사용할 수도 있습니다.

현재 질문에 따라 조건부로 값을 바꾸게 하려면 Update application variable 도구에 갱신 가능한 변수 목록을 제공합니다. 이 경우 갱신 판단과 값은 LLM이 결정합니다.

도구에 고정 입력 제공

Action과 Function 도구는 LLM이 입력을 생성하는 대신 애플리케이션 변수 값을 사용할 수 있습니다. 지원 입력은 문자열과 객체 집합입니다. 값은 추론 루프 시작 시점에 고정되므로 같은 질문 안의 앞선 도구가 변수를 바꾸어도 이후 도구의 고정 입력에는 반영되지 않습니다.

인용 선택과 Workshop

객체 인용을 선택하면 인용된 객체 하나가 들어 있는 정적 객체 집합으로 변수를 갱신하도록 구성할 수 있습니다. 인용 설정에서 객체 유형별 출력을 정하고 Workshop 변수에 연결하여 세부 화면이나 오버레이를 표시합니다.