Großes Sprachmodell nach Aufgaben hierarchisch routen: Mit einer 3-Schicht-Architektur entscheiden, welche Anfragen den Einsatz eines Flaggschiffmodells rechtfertigen
Anmerkung des Autors: Dieser Artikel erklärt anhand von drei Dimensionen – Aufgabenkomplexität, Fehlerkosten und Kontextgröße –, wie Sie große Sprachmodelle nach Aufgaben gestaffelt routen und das Flaggschiffmodell den Anfragen vorbehalten, die es wirklich brauchen. Der erste Schritt vieler Teams bei der Anbindung großer Sprachmodelle besteht darin, alle Anfragen an das derzeit stärkste Flaggschiffmodell zu schicken….