Perutean Model Bahasa Besar Berdasarkan Tingkat Tugas: Menggunakan Arsitektur 3 Lapis untuk Menentukan Permintaan Mana yang Layak Memakai Model Unggulan
Catatan penulis: Artikel ini menjelaskan, dilihat dari tiga dimensi—tingkat kesulitan tugas, biaya kesalahan, dan skala konteks—bagaimana merutekan Model Bahasa Besar secara berlapis berdasarkan tugas, sehingga model unggulan hanya dialokasikan untuk permintaan yang benar-benar membutuhkannya. Langkah pertama banyak tim saat mengintegrasikan Model Bahasa Besar adalah mengirim semua permintaan ke model unggulan terkuat yang tersedia saat itu….