Workspace Index › Dev Notes › Prompt injection — untrusted text becomes an instruction
#185PoC
An LLM agent cannot reliably tell data from instructions, so text in a fetched page or a tool result can hijack it — the class with no clean fix and rising stakes as agents gain permissions.
The PoC plants an injection in a document an agent reads and shows it exfiltrating or acting out of scope, then the partial defenses (isolation, allowlists, human-in-the-loop) — the security core of the whole agent stack.
Not yet built.
LLM 에이전트는 데이터와 명령을 안정적으로 구분하지 못하므로, 가져온 페이지나 도구 결과 속 텍스트가 그것을 탈취할 수 있습니다 — 깔끔한 해법이 없고 에이전트가 권한을 얻을수록 위험이 커지는 계급입니다.
이 PoC는 에이전트가 읽는 문서에 인젝션을 심어 유출하거나 범위를 벗어나 행동하는 것을 보인 뒤 부분적 방어책(격리, 허용목록, 인간 개입)을 보입니다 — 에이전트 스택 전체의 보안 핵심입니다.
아직 만들지 않음.