Bir sayfa talimata dönüştü.

Nasıl gözden kaçıyor

Bir ajandan sayfayı özetlemesini istediniz. Sayfa ajana önce başka bir şey yapmasını söylüyor. Buradaki güven sınırı şudur: dış içerik, görevinizin içinde bir talimata dönüşmeye çalışıyor.

Bir inceleme sayfasının, yetki iddia eden ve özeti tamamlamadan önce ajana bir yükleyici çalıştırmasını isteyen bir mesaj içerdiğini düşünün. Kullanışlı kaynak materyalin ortasında bu talimat bir insan gözlemcisi tarafından kolayca gözden kaçabilir.

ClawMetry neyi tespit eder

ClawMetry, kayıtlı araç sonuçlarını ve kullanıcı kaynaklı metni bilinen prompt enjeksiyon imzaları açısından denetler. Eşleşen bir araç sonucu, imzayı ve kaynak aracı belirten bir uyarı oluşturur. Bulgunun eşleşen metni tekrar etmesi gerekmez.

Bulguyu değiştiren fark

İncelenen örnekte getirilen bir sayfaya sahte bir talimat yerleştiriliyor ve uyarı alınıyor. Olağan bir otel açıklaması sessiz kalıyor. Aynı turda daha sonra gerçekleşen yüksek riskli bir araç çağrısı önem düzeyini artırabilir; bu da olayların sırasını gözden geçirmeyi değerli kılar.

{
  "kind": "prompt_injection",
  "severity": "warning",
  "evidence": {
    "source": "tool_result",
    "tool": "WebFetch",
    "signatures": [
      "forged_authority",
      "task_handoff"
    ],
    "signature_labels": [
      "imitates a system or authority message",
      "asks the agent to do something else before the user's task"
    ],
    "tool_result_matches": 1,
    "user_message_matches": 0,
    "followed_by_tool": null,
    "followed_by_risk": null,
    "threshold": 1,
    "threshold_source": "static",
    "observed": "declared injection signatures in the text of tool results and user-sourced messages; matched text is not kept"
  }
}

Sonraki kontrol noktaları

İçeriği sağlayan kaynağı ve ardından gerçekleşen eylemleri inceleyin. Orijinal görevi göz önünde bulundurun. Ajan dış metni otorite olarak mı değerlendirdi, yoksa yalnızca alıntı mı yaptı? Bulguyu, bu sınırı gerçek kayıtlı etkinlikle araştırmak için kullanın.

1. İçerik kaynağını belirleyin
2. Sonraki eylemleri inceleyin
3. Orijinal görevle karşılaştırın