Inference Stack Degradation Theory (v1.5)

Propuesta del autor sobre deriva numérica vinculada a la carga en la inferencia de LLM y su seguimiento mediante un Prompt Weather Index. Distingue estabilidad de corrección y plantea una vía de validación.

Idioma del documento original: Inglés. El idioma de la interfaz no traduce el documento fuente.

Inference Stack Degradation Theory Load-Coupled Numerical Drift and Monitoring in LLM Inference Version 1.5 Roble Mumin Independent AI Researcher and AI Consultant https://roblemumin.com December 2025 Inference Stack Degradation Theory v1.5 Contents 1 Introduction 2 Scope and Non-Claims 3 Established Findings from Prior Work 3.1 Floating-Point Non-Associativity 3.2 Batch Dependence as Practical Cause 4 Relation to ML Systems Research 5 Inference Stack Degradation Theory 5.1 Formal Framing 5.2 Null Hypothesis 6 Autoregressive Sensitivity Considerations 7 Prompt Weather Index 7.1 Motivation 7.2 Definition 7.3 Stability Versus Correctness 7.4 Falsifiability 8 Minimal Empirical Validation Path 9 Operational and Ethical Considerations 10 Implications if Validated 11 Open Research Questions 12 Conclusion Roble Mumin Page 2 of Inference Stack Degradation Theory v1.5 Experiments 13 Experiments 13.1 Experiment 1: Reproducing Batch-Induced Token-Level Divergence 13.1.1 Objective 13.1.2 Setup 13.1.3 Expected Metrics 13.1.4 Null Hypothesis 13.1.5 Agentic Execution Notes 13.2 Experiment 2: Measuring Autoregressive Drift Accumulation 13.2.1 Objective 13.2.2 Setup 13.2.3 Expected ISDT Outcome 13.2.4 Agentic Execution Notes 13.3 Experiment 3: Prompt Weather Index (PWI) Time-Series Monitoring 13.3.1 Objective 13.3.2 Setup 13.3.3 Null Hypothesis 13.3.4 Elaboration: Metric Sensitivity and Weight Robustness 13.3.5 Agentic Execution Notes 13.4 Experiment 4: Task-Level Correctness…
Abrir documento
Citar este documento

Roble Mumin “Inference Stack Degradation Theory (v1.5)”. 2025-12. Disponible en: Página del documento

current summary qualified; independent peer review not verified

Buscar y filtrar el archivo

Busca por título, descripción o categoría. Cada entrada es un artefacto concreto del sistema: un artículo, un marco o un estudio aplicado.

RSS del pódcast
Vista:

Categorías del archivo

Cada categoría muestra una cara distinta del mismo método. Los hilos de investigación alimentan los artículos, los artículos se consolidan en obras largas, los estudios aplicados prueban la cadena sobre problemas reales.