ఒక పేజీ సూచనగా మారింది.

ఇది ఎలా చూసీ చూడకుండా పోతుంది

మీరు ఏజెంట్‌ను పేజీ సారాంశం చేయమని అడిగారు. పేజీ ఏజెంట్‌కు ముందు వేరే పని చేయమని చెప్తుంది. అదే విశ్వాస సరిహద్దు: బాహ్య కంటెంట్ మీ పని లోపల సూచనగా మారడానికి ప్రయత్నిస్తోంది.

తెచ్చిన సమీక్ష పేజీలో అధికారం చెప్పుకుని, సారాంశం పూర్తి చేసే ముందు ఒక ఇన్‌స్టాలర్ రన్ చేయమని ఏజెంట్‌ను అడిగే సందేశం ఉందని ఊహించండి. ఉపయోగకరమైన మూల సామగ్రి మధ్య, ఆ సూచన మానవ సమీక్షకుడికి సులభంగా కనబడకపోవచ్చు.

ClawMetry ఏమి గుర్తిస్తుంది

ClawMetry రికార్డ్ చేయబడిన టూల్ ఫలితాలు మరియు వినియోగదారు మూల వచనాన్ని ప్రకటిత prompt injection సంతకాల కోసం తనిఖీ చేస్తుంది. సరిపోలే టూల్ ఫలితం సంతకం మరియు మూల టూల్‌ను పేరు పెట్టే హెచ్చరికను తెలుపుతుంది. నిర్ధారణలో సరిపోలే వచనాన్ని కాపీ చేయాల్సిన అవసరం లేదు.

ఫలితాన్ని మార్చే తేడా

తనిఖీ చేయబడిన ఉదాహరణలో తెచ్చిన పేజీలో నకిలీ సూచన ఉంచి హెచ్చరిక వస్తుంది. సాధారణ హోటల్ వివరణ నిశ్శబ్దంగా ఉంటుంది. అదే టర్న్‌లో తర్వాత అధిక ప్రమాద టూల్ కాల్ తీవ్రత పెంచవచ్చు, కాబట్టి ఈవెంట్‌ల క్రమం సమీక్షించదగినది.

{
  "kind": "prompt_injection",
  "severity": "warning",
  "evidence": {
    "source": "tool_result",
    "tool": "WebFetch",
    "signatures": [
      "forged_authority",
      "task_handoff"
    ],
    "signature_labels": [
      "imitates a system or authority message",
      "asks the agent to do something else before the user's task"
    ],
    "tool_result_matches": 1,
    "user_message_matches": 0,
    "followed_by_tool": null,
    "followed_by_risk": null,
    "threshold": 1,
    "threshold_source": "static",
    "observed": "declared injection signatures in the text of tool results and user-sourced messages; matched text is not kept"
  }
}

తదుపరి ఏమి తనిఖీ చేయాలి

కంటెంట్ అందించిన మూలాన్ని మరియు తదుపరి చర్యలను పరిశీలించండి. అసలు పని దృష్టిలో ఉంచుకోండి. ఏజెంట్ బాహ్య వచనాన్ని అధికారంగా పరిగణించిందా, లేదా కేవలం ఉదహరించిందా? రికార్డ్ చేయబడిన అసలు కార్యకలాపంతో ఆ సరిహద్దును పరిశోధించడానికి నిర్ధారణను ఉపయోగించండి.

1. కంటెంట్ మూలాన్ని గుర్తించండి
2. తదుపరి చర్యలను పరిశీలించండి
3. అసలు పనితో పోల్చండి