Як це залишається непоміченим
Ви попросили агента узагальнити сторінку. Сторінка наказує агенту спочатку зробити щось інше. Це межа довіри: зовнішній вміст намагається стати інструкцією всередині вашого завдання.
Уявіть завантажену сторінку рецензії, яка містить повідомлення, що претендує на авторитет та просить агента запустити інсталятор до завершення резюме. Серед корисного матеріалу інструкцію легко пропустити людині-рецензенту.
Що виявляє ClawMetry
ClawMetry перевіряє записані результати інструментів та текст із джерел користувача на наявність оголошених сигнатур ін'єкцій підказок. Відповідний результат інструменту підвищує попередження із зазначенням сигнатури та вихідного інструменту. Знахідка не потребує повторення відповідного тексту.
Різниця, яка змінює знахідку
Приклад спрацювання
Сторінка наказує агенту діяти
Попереджувальна знахідка
Тиха порівняльна ситуація
Звичайний вміст сторінки
Для цього детектора знахідок немає.
Перевірений приклад розміщує підроблену інструкцію на завантаженій сторінці та отримує попередження. Звичайний опис готелю залишається без реакції. Пізніший виклик інструменту з високим ризиком у тому ж ході може підвищити серйозність, тому порядок подій варто переглянути.
Перегляньте результат детектора
{
"kind": "prompt_injection",
"severity": "warning",
"evidence": {
"source": "tool_result",
"tool": "WebFetch",
"signatures": [
"forged_authority",
"task_handoff"
],
"signature_labels": [
"imitates a system or authority message",
"asks the agent to do something else before the user's task"
],
"tool_result_matches": 1,
"user_message_matches": 0,
"followed_by_tool": null,
"followed_by_risk": null,
"threshold": 1,
"threshold_source": "static",
"observed": "declared injection signatures in the text of tool results and user-sourced messages; matched text is not kept"
}
}Як перевірявся приклад
Ці приклади оцінюють опублікований детектор із авторськими даними подій або одноразовими файлами конфігурації. Відео ілюструє цю поведінку. Це не записи живих агентів або інтерфейсу продукту. Жодна команда з прикладів не виконувалась.
Результат встановлює поведінку для цих вхідних даних. Він не встановлює прийом у середовищі виконання, запобігання або реального компрометування. Перегляньте закріплений вихідний контракт.
Що перевірити далі
Перевірте джерело, що надало вміст, та дії, які відбулися після. Тримайте в полі зору початкове завдання. Чи трактував агент зовнішній текст як авторитет, чи просто цитував його? Використовуйте знахідку для дослідження цієї межі на основі фактично записаної активності.
- Визначте джерело вмісту
- Огляньте подальші дії
- Порівняйте з початковим завданням
Що встановлює цей сигнал
Це обмежені перевірки сигнатур. Перефразування та інші невідповідні форми можуть бути пропущені; збіг не доводить, що агент підкорився.