Skip to content

[P3][AI-LLM] SAFETY_NOTE nicht dem Tool-Result vorangestellt #184

Description

@muraschal

Note

Management-Summary. Der SAFETY_NOTE des MCP-Servers steht in Server-Instructions und Tool-Descriptions, wird aber dem zurückgegebenen Prompt-Text nicht vorangestellt. Auswirkung: ein Agent, der nur das Tool-Result (nicht die Metadaten) liest, erhält das ungehärtete Prompt. Empfehlung: SAFETY_NOTE dem Result voranstellen.

Schweregrad: P3 · Standard-Bezug: OWASP LLM01 (Prompt Injection)
Fundort: mcp/src/index.ts:99 (Result), Definition mcp/src/index.ts:38
Nachweis: getAuditPrompt/getOrchestrator geben den rohen Prompt-Text zurück; SAFETY_NOTE erscheint nur in Description/Instructions (mcp/src/index.ts:52).
Auswirkung: Die Verteidigung „survives even if the agent only reads tool metadata" deckt den umgekehrten Fall (Agent liest nur das Result) nicht ab.

Handlungsempfehlung (Vorher/Nachher):

  • vorher: Result = roher Prompt.
  • nachher: SAFETY_NOTE als kurzer Header-Block dem zurückgegebenen Text in getAuditPrompt/getOrchestrator voranstellen.

Aufwand: S · Re-Audit-Kriterium: Tool-Result beginnt mit dem SAFETY_NOTE-Header.

Teil von #167

Metadata

Metadata

Assignees

No one assigned

    Labels

    auditBefund aus einem auditor-Auditdimension:ai-llmAudit-Dimension: ai-llmeffort:sAufwand kleinsev:p3Schweregrad P3 — niedrig

    Type

    No type

    Fields

    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions