Inference Stack Degradation Theory (v1.5)

Proposition de recherche de l’auteur sur la dérive numérique liée à la charge dans l’inférence des LLM et son suivi par un Prompt Weather Index. Elle distingue stabilité et exactitude et décrit une voie de validation.

Langue du document original : Anglais. La langue de l’interface ne traduit pas le document source.

Inference Stack Degradation Theory Load-Coupled Numerical Drift and Monitoring in LLM Inference Version 1.5 Roble Mumin Independent AI Researcher and AI Consultant https://roblemumin.com December 2025 Inference Stack Degradation Theory v1.5 Contents 1 Introduction 2 Scope and Non-Claims 3 Established Findings from Prior Work 3.1 Floating-Point Non-Associativity 3.2 Batch Dependence as Practical Cause 4 Relation to ML Systems Research 5 Inference Stack Degradation Theory 5.1 Formal Framing 5.2 Null Hypothesis 6 Autoregressive Sensitivity Considerations 7 Prompt Weather Index 7.1 Motivation 7.2 Definition 7.3 Stability Versus Correctness 7.4 Falsifiability 8 Minimal Empirical Validation Path 9 Operational and Ethical Considerations 10 Implications if Validated 11 Open Research Questions 12 Conclusion Roble Mumin Page 2 of Inference Stack Degradation Theory v1.5 Experiments 13 Experiments 13.1 Experiment 1: Reproducing Batch-Induced Token-Level Divergence 13.1.1 Objective 13.1.2 Setup 13.1.3 Expected Metrics 13.1.4 Null Hypothesis 13.1.5 Agentic Execution Notes 13.2 Experiment 2: Measuring Autoregressive Drift Accumulation 13.2.1 Objective 13.2.2 Setup 13.2.3 Expected ISDT Outcome 13.2.4 Agentic Execution Notes 13.3 Experiment 3: Prompt Weather Index (PWI) Time-Series Monitoring 13.3.1 Objective 13.3.2 Setup 13.3.3 Null Hypothesis 13.3.4 Elaboration: Metric Sensitivity and Weight Robustness 13.3.5 Agentic Execution Notes 13.4 Experiment 4: Task-Level Correctness…
Ouvrir le document
Citer ce document

Roble Mumin “Inference Stack Degradation Theory (v1.5)”. 2025-12. Disponible à l’adresse : Page du document

current summary qualified; independent peer review not verified

Chercher et filtrer l'archive

Chercher par titre, description ou catégorie. Chaque entrée est un artefact concret du système : un article, un cadre, ou une étude appliquée.

Flux RSS du podcast
Affichage :

Catégories de l'archive

Chaque catégorie montre une facette différente de la même méthode. Les fils de recherche nourrissent les articles, les articles se consolident en œuvres longues, les études appliquées prouvent la chaîne sur des problèmes réels.