ਇੱਕ ਪੇਜ ਨਿਰਦੇਸ਼ ਬਣ ਗਿਆ।

ਇਹ ਕਿਵੇਂ ਅਣਡਿੱਠਾ ਹੋ ਜਾਂਦਾ ਹੈ

ਤੁਸੀਂ ਏਜੰਟ ਨੂੰ ਪੇਜ ਸੰਖੇਪ ਕਰਨ ਲਈ ਕਿਹਾ। ਪੇਜ ਏਜੰਟ ਨੂੰ ਪਹਿਲਾਂ ਕੁਝ ਹੋਰ ਕਰਨ ਲਈ ਕਹਿੰਦਾ ਹੈ। ਇਹ ਭਰੋਸੇ ਦੀ ਸੀਮਾ ਹੈ: ਬਾਹਰੀ ਸਮੱਗਰੀ ਤੁਹਾਡੇ ਕੰਮ ਦੇ ਅੰਦਰ ਨਿਰਦੇਸ਼ ਬਣਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ।

ਕਲਪਨਾ ਕਰੋ ਕਿ ਇੱਕ ਲਿਆਇਆ ਗਿਆ ਸਮੀਖਿਆ ਪੇਜ ਅਜਿਹਾ ਸੁਨੇਹਾ ਹੈ ਜੋ ਅਧਿਕਾਰ ਦਾ ਦਾਅਵਾ ਕਰਦਾ ਹੈ ਅਤੇ ਸੰਖੇਪ ਪੂਰਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਏਜੰਟ ਨੂੰ ਇੰਸਟੌਲਰ ਚਲਾਉਣ ਲਈ ਕਹਿੰਦਾ ਹੈ। ਉਪਯੋਗੀ ਸਰੋਤ ਸਮੱਗਰੀ ਵਿੱਚ, ਨਿਰਦੇਸ਼ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕ ਲਈ ਅਸਾਨੀ ਨਾਲ ਖੁੰਝ ਜਾਂਦਾ ਹੈ।

ClawMetry ਕੀ ਖੋਜਦਾ ਹੈ

ClawMetry ਰਿਕਾਰਡ ਕੀਤੇ ਟੂਲ ਨਤੀਜਿਆਂ ਅਤੇ ਉਪਭੋਗਤਾ ਸਰੋਤ ਟੈਕਸਟ ਵਿੱਚ ਘੋਸ਼ਿਤ prompt injection ਦਸਤਖਤ ਜਾਂਚਦਾ ਹੈ। ਮੇਲ ਖਾਂਦੇ ਟੂਲ ਨਤੀਜੇ 'ਤੇ ਚੇਤਾਵਨੀ ਉਠਾਈ ਜਾਂਦੀ ਹੈ ਜੋ ਦਸਤਖਤ ਅਤੇ ਸਰੋਤ ਟੂਲ ਦੱਸਦੀ ਹੈ। ਖੋਜ ਲਈ ਮੇਲ ਖਾਂਦੇ ਟੈਕਸਟ ਦੀ ਕਾਪੀ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ।

ਉਹ ਫ਼ਰਕ ਜੋ ਖੋਜ ਬਦਲਦਾ ਹੈ

ਜਾਂਚ ਕੀਤੀ ਉਦਾਹਰਨ ਲਿਆਏ ਗਏ ਪੇਜ ਵਿੱਚ ਜਾਅਲੀ ਨਿਰਦੇਸ਼ ਰੱਖਦੀ ਹੈ ਅਤੇ ਚੇਤਾਵਨੀ ਮਿਲਦੀ ਹੈ। ਆਮ ਹੋਟਲ ਵੇਰਵਾ ਚੁੱਪ ਰਹਿੰਦਾ ਹੈ। ਉਸੇ ਮੋੜ ਵਿੱਚ ਬਾਅਦ ਵਿੱਚ ਉੱਚ-ਜੋਖਮ ਟੂਲ ਕਾਲ ਗੰਭੀਰਤਾ ਵਧਾ ਸਕਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਘਟਨਾਵਾਂ ਦਾ ਕ੍ਰਮ ਸਮੀਖਿਆ ਦੇ ਯੋਗ ਹੈ।

{
  "kind": "prompt_injection",
  "severity": "warning",
  "evidence": {
    "source": "tool_result",
    "tool": "WebFetch",
    "signatures": [
      "forged_authority",
      "task_handoff"
    ],
    "signature_labels": [
      "imitates a system or authority message",
      "asks the agent to do something else before the user's task"
    ],
    "tool_result_matches": 1,
    "user_message_matches": 0,
    "followed_by_tool": null,
    "followed_by_risk": null,
    "threshold": 1,
    "threshold_source": "static",
    "observed": "declared injection signatures in the text of tool results and user-sourced messages; matched text is not kept"
  }
}

ਅਗਲਾ ਕੀ ਜਾਂਚਣਾ ਹੈ

ਉਹ ਸਰੋਤ ਜਾਂਚੋ ਜਿਸਨੇ ਸਮੱਗਰੀ ਸਪਲਾਈ ਕੀਤੀ ਅਤੇ ਉਸ ਤੋਂ ਬਾਅਦ ਦੀਆਂ ਕਾਰਵਾਈਆਂ। ਅਸਲ ਕੰਮ ਸਾਹਮਣੇ ਰੱਖੋ। ਕੀ ਏਜੰਟ ਨੇ ਬਾਹਰੀ ਟੈਕਸਟ ਨੂੰ ਅਧਿਕਾਰ ਮੰਨਿਆ, ਜਾਂ ਬੱਸ ਹਵਾਲਾ ਦਿੱਤਾ? ਅਸਲ ਰਿਕਾਰਡ ਕੀਤੀ ਗਤੀਵਿਧੀ ਨਾਲ ਉਸ ਸੀਮਾ ਦੀ ਜਾਂਚ ਕਰੋ।

1. ਸਮੱਗਰੀ ਸਰੋਤ ਦੀ ਪਛਾਣ ਕਰੋ
2. ਬਾਅਦ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਦੀ ਜਾਂਚ ਕਰੋ
3. ਅਸਲ ਕੰਮ ਨਾਲ ਤੁਲਨਾ ਕਰੋ