SITE CAPTURE서비스 페이지에 공개된 정보를 바탕으로 표시합니다. 선정·검수 원칙
WHAT IT DOES
무엇을 하나요?
에이전트가 자신의 컨텍스트를 읽고 잘못된 내용을 수정하거나 과거 답변을 교체하는 과정을 순서대로 기록합니다. 사용자가 답변을 위조하거나 명령 출력을 숨긴 뒤 에이전트의 반응이 어떻게 달라지는지도 실제 세션 로그로 보여줍니다.
KEY FEATURES
주요 기능
- 에이전트가 컨텍스트의 거짓 정보를 찾아 수정한 과정 기록
- 환각이 포함된 과거 응답을 찾아 교체한 사례 제공
- 컨텍스트 항목을 제거한 복제 실험으로 답변 근거 검증
- 사용자가 응답을 위조한 뒤 발생한 추가 환각 관찰
- 명령 출력을 숨겼을 때 에이전트가 진술을 철회하는 과정 기록