BLACK_WALLinicioEN · ES · PT
TAXONOMÍA_DE_FALLOS

Las 28 formas en que un agente de IA rompe cosas — y las alertas que las detectan.

Black_Wall verifica cada acción de un agente contra estos 28 modos de fallo documentados antes de que se ejecute. Cada uno es un código de alerta real que devuelve la API de forecast.

Financiero

AMOUNT_UNVERIFIED
Pagar un importe que el agente nunca verificó
Un agente mueve dinero usando un importe tomado del contexto sin volver a contrastarlo con la factura o la fuente de ver
AMOUNT_OUT_OF_BAND
Un pago del agente mucho mayor de lo normal
El importe del pago está completamente fuera de lo que este agente o destinatario suele transaccionar: una señal clásica
CURRENCY_MISMATCH
Un agente pagando en la moneda equivocada
La moneda del payload no coincide con la que espera el destinatario, lo que provoca un pago de más o de menos, o una liq

Comunicaciones

RECIPIENT_UNVERIFIED
Enviar a un destinatario sin verificar
La dirección o el identificador del destinatario no se ha validado recientemente: un error tipográfico o un contacto des
TONE_MISMATCH
Un mensaje del agente con el tono equivocado
El tono del mensaje difiere notablemente de la comunicación previa con este destinatario: a menudo un error de plantilla
TIMING_SUSPICIOUS
Un agente que envía a una hora o ritmo sospechoso
Enviar a una hora inusual o en una ráfaga muy por encima del patrón normal: con frecuencia un bucle descontrolado o un p
PII_EXPOSURE
Un agente filtrando datos personales (PII)
El mensaje contiene información de identificación personal que quizá no esté autorizada a enviarse: una brecha de privac
LEGAL_LANGUAGE_DETECTED
Un agente asumiendo compromisos legales
El mensaje contiene compromisos o lenguaje jurídico que debería requerir revisión humana antes de enviarse.
MASS_RECIPIENT
Un agente enviando correo masivo a demasiados destinatarios
La lista de destinatarios supera un umbral seguro (por defecto >50): un envío equivocado llega a miles y no se puede rev

Mutación de datos

IRREVERSIBLE_NO_BACKUP
Una acción irreversible sin copia de seguridad
La acción no se puede deshacer y no existe copia de seguridad ni snapshot: si está mal, los datos simplemente desaparece
SQL_NO_WHERE
Un agente ejecutó UPDATE o DELETE sin cláusula WHERE
Una sentencia DELETE o UPDATE sin cláusula WHERE se aplica a todas las filas de la tabla en lugar de a la fila prevista.
DESTRUCTIVE_VERB
Un agente ejecutó un comando destructivo (DROP / TRUNCATE)
La sentencia usa DROP, TRUNCATE, FORCE DELETE o similar: destructiva de forma instantánea e irreversible.
CROSS_ENVIRONMENT
Un agente que toca producción desde un contexto no productivo
La acción parece apuntar a producción cuando la intención era staging o pruebas (o viceversa): el comando correcto en el
SCHEMA_DRIFT
Un agente que asume un esquema de base de datos desactualizado
La acción asume un esquema que puede haber cambiado desde la última vez que el agente lo vio: corrompe datos o falla a m

Autorización

MISSING_AUTH
Un agente que actúa sin la aprobación requerida
No hay evidencia en el contexto de la autorización o aprobación requerida para una acción sensible.
PERMISSION_ESCALATION
Un agente que se concede más acceso a sí mismo
La acción otorgaría un acceso mayor del que el agente suele tener, ampliando el radio de impacto de cualquier error futu
KEY_ROTATION_ANOMALY
Un agente que rota o revoca claves de forma inesperada
Rotar o revocar claves sin las precondiciones normales puede dejar fuera a sistemas o usuarios.

Integridad de la intención

AMBIGUOUS_INTENT
Un agente que actúa con una intención poco clara
La intención declarada del usuario es poco clara, contradictoria o inexistente, por lo que el agente está adivinando en
INTENT_MISMATCH
La acción no coincide con lo que se pidió
La acción se desvía de la intención declarada del usuario: una señal de que el agente se salió de la tarea o fue dirigid
REGEX_OVERFITS_INPUT
Un agente que actúa sobre entradas frágiles obtenidas por coincidencia de patrones
Las entradas parecen extraídas mediante una coincidencia de patrones poco robusta, así que probablemente sean los valore
PROMPT_INJECTION_LIKELY
Inyección de prompts en las entradas de las herramientas del agente
Las entradas contienen lenguaje característico de inyección de prompts: un atacante dirige la acción real del agente med

Operacional

RATE_ANOMALY
Un agente que ejecuta una acción con demasiada frecuencia
El agente realiza esta acción con mucha más frecuencia que su línea base: por lo general, un bucle descontrolado.
RETRY_LOOP_RISK
Un agente que reintenta una acción fallida sin backoff
Parece un reintento de una acción que falló hace poco, sin backoff: con riesgo de duplicados, cobros dobles o una cascad
EXTERNAL_API_UNRELIABLE
Un agente que depende de una API externa inestable
La acción depende de una API externa con inestabilidad reciente o comportamiento no documentado, por lo que los datos qu
COST_ANOMALY
Una acción del agente que consume recursos anómalos
La acción consumiría muchos más recursos, tokens o gasto de lo habitual.
STALE_CONTEXT
Un agente que actúa sobre contexto desactualizado
El contexto hace referencia a eventos de hace más de 24 horas que pueden haber cambiado: el agente actúa sobre hechos ob

Cumplimiento

REGULATORY_RISK
Una acción del agente que toca un dominio regulado
La acción toca un dominio regulado (PCI, HIPAA, SOX, GDPR) sin evidencia de una verificación de cumplimiento.
POLICY_DRIFT
Una acción del agente que infringe la política de la empresa
La acción infringiría una política de la empresa establecida antes en el contexto.

Pruébalo con tu propia acción

Sin registro: pega una acción y mira el veredicto.

Pruébalo en vivo →Obtén una API key gratis