Kapasitas Isi Permintaan Claude API Ditingkatkan menjadi 128 MB: Apakah Sistem AI Perusahaan Perlu Merombak Alur Pemrosesan Data?

Pada 28 Oktober 2026, Anthropic mengumumkan pembaruan dalam catatan rilis resminya: ukuran maksimum body permintaan untuk Messages API dan Token Counting API pada Claude API pihak pertama naik dari 32 MB menjadi 128 MB, atau empat kali lipat dari batas sebelumnya. Setelah pengumuman ini, banyak pemimpin teknis perusahaan mulai mempertimbangkan pertanyaan praktis: apakah alur pemisahan file besar, pengunggahan, dan prapemrosesan yang dirancang untuk menyiasati batas 32 MB perlu dibuat ulang?

Ini bukan pembaruan yang membuat “model jadi lebih canggih”. Yang berubah adalah batas ukuran body permintaan pada lapisan HTTP, bukan jendela konteks model atau panjang output. Banyak kesalahpahaman muncul karena 128 MB disamakan dengan 128K token atau 1M token.

Manfaat utama: Artikel ini menjelaskan batas mana yang berubah setelah kapasitas body permintaan Claude API diperbesar, lalu memberikan panduan keputusan kategori A/B/C berdasarkan skenario bisnis. Di bagian akhir, tersedia rencana validasi berbiaya rendah yang bisa langsung dijalankan beserta daftar periksa. Rekomendasi arsitektur dalam artikel ini merupakan analisis teknis berdasarkan informasi resmi, bukan panduan migrasi resmi dari Anthropic.

Ringkasan Perluasan Batas Isi Permintaan Claude API

Tabel berikut merangkum fakta tentang pembaruan batas isi permintaan Claude API. Analisis selanjutnya akan mengacu pada informasi ini.

Batas Isi Permintaan Berbeda di Setiap Endpoint Claude API

Perlu diperhatikan bahwa setiap endpoint Claude API langsung dari Anthropic memiliki batas ukuran permintaan yang berbeda. Pembaruan ini hanya berlaku untuk Messages dan Token Counting. Endpoint lain tetap menggunakan batasnya masing-masing, jadi perusahaan tidak bisa mengandalkan satu angka saja saat merancang arsitektur.

Data bersumber dari dokumentasi ringkasan API resmi (S2). Jika bisnis Anda menggunakan endpoint Messages dan Agents sekaligus, alokasi ukuran untuk keduanya tetap perlu dirancang secara terpisah. Jangan menyamaratakan batasnya menjadi 128 MB.

Batas mana yang sebenarnya berubah dengan peningkatan ukuran request body Claude API?

Satu panggilan Claude API harus melewati beberapa “gerbang”, dan ukuran request body hanyalah gerbang paling luar. Memahami perbedaan batas-batas ini penting sebelum memutuskan apakah arsitektur perlu diubah.

Request body 128 MB bukan berarti model bisa “memahami” 128 MB

Ukuran request body mengukur jumlah byte yang dikirim melalui jaringan, sedangkan jendela konteks mengukur jumlah token yang bisa diproses model dalam sekali panggil. Gambar beresolusi tinggi bisa berukuran beberapa MB, tetapi belum tentu menghasilkan banyak token. Sebaliknya, teks biasa yang hanya berukuran beberapa ratus KB bisa memiliki jumlah token yang mendekati batas konteks. Jadi, “bisa mengirim lebih banyak byte” dan “model bisa memahami lebih banyak konten” adalah dua hal yang berbeda.

Selain itu, konten biner seperti gambar dan PDF biasanya perlu dikodekan dalam base64 saat dimasukkan ke permintaan JSON. Setelah dikodekan, ukurannya membengkak menjadi sekitar 4/3 dari ukuran asli. Artinya, ukuran total file biner asli yang bisa dimuat dalam request body 128 MB akan jauh lebih kecil dari 128 MB. Perhitungkan overhead ini saat memperkirakan kapasitas.

Hubungan antara request body Claude API dan batas halaman PDF

Dokumentasi resmi PDF (S3) menjelaskan bahwa saat memproses PDF melalui antarmuka pihak pertama, batas request body adalah 128 MB. Namun, jumlah halaman memiliki batas tersendiri yang bergantung pada jendela konteks model yang digunakan. Jadi, kontrak hasil pindai berukuran 100 MB mungkin lolos di lapisan HTTP, tetapi tetap tidak bisa diproses sepenuhnya jika jumlah halaman atau tokennya melampaui batas konteks.

Aplikasi perusahaan yang berpotensi diuntungkan oleh peningkatan batas body permintaan Claude API

Analisis berikut bersifat perkiraan dan mengasumsikan bahwa bisnis tersebut sebelumnya memang terkendala oleh batas body permintaan sebesar 32 MB. Sekalipun asumsi ini terpenuhi, bukan berarti skenario tersebut tidak lagi memerlukan pembagian input.

• Analisis PDF dan kontrak berukuran besar: Tim hukum dan audit sering perlu mengirim kontrak hasil pindai atau laporan dengan banyak lampiran. File hasil pindai biasanya berukuran besar, tetapi kepadatan teksnya rendah. Jika hambatan utamanya adalah ukuran file yang melebihi 32 MB, peningkatan batas ini bisa memungkinkan pengiriman dalam satu permintaan. Namun, jika hambatannya adalah jumlah halaman atau token konteks, manfaatnya terbatas.
• Pengiriman banyak gambar atau dokumen multipage: Dalam klaim asuransi dan inspeksi kualitas, satu permintaan dapat memuat banyak foto lapangan. Gabungan gambar mudah melampaui batas lama. Peningkatan batas ini dapat mengurangi kemungkinan munculnya error 413, tetapi jumlah gambar tetap dibatasi oleh model dan konteks.
• Aplikasi AI yang membawa data terstruktur dalam jumlah besar: Beberapa sistem memasukkan JSON, log, atau tabel yang panjang langsung ke dalam permintaan. Batas ukuran dalam byte memang bertambah, tetapi data seperti ini biasanya memiliki kepadatan token yang tinggi. Akibatnya, aplikasi lebih mungkin mencapai batas jendela konteks terlebih dahulu daripada batas 128 MB.
• Bisnis yang sebelumnya membagi input hanya karena batas 32 MB: Inilah pihak yang paling langsung diuntungkan. Jika satu-satunya alasan pembagian adalah untuk menghindari batas body permintaan, sekarang saat yang tepat untuk mengevaluasi kembali apakah pembagian tersebut masih diperlukan.

🎯 Saran teknis: Saat mengevaluasi skenario ini, ukur terlebih dahulu “ukuran dalam byte” dan “jumlah token” menggunakan sampel nyata, lalu tentukan di lapisan mana hambatannya berada. Melalui APIYI apiyi.com, Anda dapat menggunakan kunci API yang sama untuk memanggil Claude dan model populer lainnya sebagai perbandingan. Namun, batas body permintaan platform pihak ketiga bisa berbeda dari API resmi, jadi pastikan batas yang saat ini didukung platform sebelum digunakan dalam produksi.

Perlukah mengubah arsitektur setelah batas ukuran request body Claude API diperbesar? Tiga kategori A/B/C

Inilah kerangka utama untuk menentukan langkah selanjutnya. Perlu atau tidaknya perubahan arsitektur bukan ditentukan oleh “batas resmi yang kini lebih besar”, melainkan oleh “masalah apa yang ingin diselesaikan oleh desain awal”.

Situasi A: Sistem yang tidak pernah mendekati 32 MB

Pada sebagian besar aplikasi percakapan teks, tanya jawab layanan pelanggan, dan bantuan penulisan kode, ukuran request body per permintaan jauh di bawah 32 MB. Sistem seperti ini biasanya tidak punya alasan langsung untuk diubah. Memaksakan perubahan justru bisa menambah risiko. Cukup perbarui informasi batas endpoint dalam dokumentasi teknis agar lebih mudah menelusuri masalah di kemudian hari.

Situasi B: Sistem yang sering mendapat error 413 akibat batas request body

Jika pemantauan menunjukkan banyak error 413 dan penyebabnya dipastikan karena request body melebihi batas endpoint Messages, pembaruan ini memang layak diuji. Anda bisa mengevaluasi apakah sebagian logika pemisahan dapat diganti dengan pengiriman satu kali, atau beralih ke referensi file_id melalui Files API untuk mengurangi pengiriman data berulang.

Situasi C: Pemisahan dilakukan demi kualitas, biaya, atau performa

Banyak sistem RAG membagi data menjadi beberapa bagian bukan karena ukuran permintaan terlalu besar untuk dikirim, melainkan agar pencarian lebih akurat, penggunaan Token per pemanggilan lebih sedikit, dan respons lebih cepat. Peningkatan batas request body tidak mengubah alasan-alasan tersebut. Menghapus pemisahan justru bisa meningkatkan biaya dan menurunkan kualitas jawaban. Sistem seperti ini sebaiknya mempertahankan desain pemisahan, pencarian, dan cache yang diperlukan.

5 Langkah Pemeriksaan Arsitektur Sebelum Memperbesar Bodi Permintaan Claude API

Meski termasuk dalam skenario B, sebaiknya lakukan pemeriksaan bertahap dengan urutan berikut. Banyak tim masih mengalami error setelah batas resmi dinaikkan, dan penyebabnya sering kali ada di komponen perantara.

1. Pastikan batas resmi endpoint Anthropic yang dituju: Messages memiliki batas 128 MB, tetapi Sessions / Agents / Environments masih 32 MB, Batch 256 MB, dan Files 500 MB (S2).
2. Periksa batas permintaan pada API gateway dan reverse proxy: Gateway internal perusahaan, Nginx, load balancer, dan WAF sering memiliki batas bawaan masing-masing yang mungkin jauh di bawah 128 MB. Periksa satu per satu.
3. Periksa klien, SDK, dan metode transfer: Batas waktu, buffer memori, dan metode unggah pada klien HTTP memengaruhi keberhasilan pengiriman permintaan besar. Perhitungkan juga penambahan ukuran akibat pengodean base64.
4. Periksa batas terpisah untuk token, konteks, dan file: Gunakan Token Counting API untuk memperkirakan jumlah token, lalu pastikan jumlah halaman PDF dan jendela konteks masih dalam batas yang diizinkan (S3, S5).
5. Evaluasi latensi, batas waktu, biaya, dan penanganan error: Permintaan besar membutuhkan waktu unggah lebih lama dan biaya percobaan ulang yang lebih tinggi. Biaya tetap dihitung berdasarkan token (S6), sehingga strategi batas waktu dan percobaan ulang perlu dirancang kembali.

Strategi Alternatif Selain Memasukkan File ke Bodi Permintaan Claude API

Selain langsung memasukkan file besar ke bodi permintaan, ada beberapa opsi lain yang layak dipertimbangkan:

• Files API dan referensi file_id: Unggah file terlebih dahulu, lalu rujuk menggunakan file_id dalam pesan agar file yang sama tidak perlu dikirim berulang kali dalam beberapa permintaan (S4). Batas penyimpanan per file adalah 500 MB, tetapi pemrosesan oleh model tetap dibatasi oleh kapasitas konteks dan batas lainnya.
• Cache petunjuk: Aktifkan cache untuk awalan dokumen panjang yang digunakan berulang kali. Ini dapat membantu mengendalikan biaya input berulang; lihat halaman harga resmi (S6) untuk aturan penagihan yang berlaku.
• Tetap gunakan pemecahan menjadi bagian + retrieval: Untuk kumpulan dokumen yang sangat besar, mengambil dan mengirim hanya bagian yang relevan biasanya masih menjadi cara untuk menyeimbangkan kualitas dan biaya.

Risiko isolasi file dalam sistem multi-tenant juga tidak boleh diabaikan. Saat menggunakan Files API, file disimpan pada tingkat akun API. Jika beberapa pelanggan menggunakan akun yang sama, akses ke file_id harus dipisahkan secara ketat pada lapisan aplikasi agar permintaan dari tenant A tidak merujuk ke file milik tenant B.

Cara menguji manfaat peningkatan batas ukuran body permintaan Claude API dengan biaya rendah

Saat ini belum ada data pengujian yang bisa dikutip secara publik untuk membuktikan bahwa peningkatan batas ini membuat pemrosesan lebih cepat atau menurunkan biaya. Jadi, cara paling andal adalah mengujinya menggunakan sampel dari kebutuhan bisnis sendiri. Berikut adalah rencana pengujian, bukan hasil pengujian.

Setiap tingkat harus disusun sesuai batas model dan file yang berlaku. Catat juga metrik ukuran body permintaan HTTP, jumlah Token, kode status, waktu pemrosesan, biaya, dan kualitas hasil. Selanjutnya, jalankan tiga pendekatan pada kumpulan sampel yang sama: “pengiriman langsung”, “referensi Files API”, dan “pemrosesan per bagian”. Gunakan data tersebut untuk menentukan apakah alur kerja saat ini perlu diubah.

Contoh sederhana pengukuran body permintaan Claude API

Kode berikut mengukur ukuran body permintaan dalam byte sebelum mengirimkannya dan menangkap kesalahan 413 agar datanya mudah dicatat saat pengujian:

import json, openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"  # APIYI OpenAI 兼容接口
)

messages = [{"role": "user", "content": "请总结这份长文档的要点:" + open("doc.txt").read()}]
body_mb = len(json.dumps({"messages": messages}).encode("utf-8")) / 1024 / 1024
print(f"请求体约 {body_mb:.2f} MB")

resp = client.chat.completions.create(model="YOUR_CLAUDE_MODEL", messages=messages)
print(resp.usage)  # 记录 Token 用量

import json
import time
import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"  # 通过 APIYI 统一接口调用
)

MODEL = "YOUR_CLAUDE_MODEL"  # 替换为平台模型列表中的 Claude 模型名

def run_case(case_name: str, messages: list) -> dict:
    """记录单次请求的体积、Token、状态、耗时,用于方案对比"""
    body = json.dumps({"model": MODEL, "messages": messages}).encode("utf-8")
    record = {
        "case": case_name,
        "body_mb": round(len(body) / 1024 / 1024, 2),
        "status": None,
        "latency_s": None,
        "prompt_tokens": None,
        "completion_tokens": None,
    }
    start = time.time()
    try:
        resp = client.chat.completions.create(model=MODEL, messages=messages)
        record["status"] = 200
        record["prompt_tokens"] = resp.usage.prompt_tokens
        record["completion_tokens"] = resp.usage.completion_tokens
    except openai.APIStatusError as e:
        record["status"] = e.status_code  # 413 即请求体超限
    except Exception as e:
        record["status"] = f"error: {e}"
    record["latency_s"] = round(time.time() - start, 2)
    return record

if __name__ == "__main__":
    text = open("doc.txt", encoding="utf-8").read()
    cases = {
        "baseline": [{"role": "user", "content": "总结要点:" + text[:20000]}],
        "full_direct": [{"role": "user", "content": "总结要点:" + text}],
    }
    results = [run_case(name, msgs) for name, msgs in cases.items()]
    for r in results:
        print(r)

🚀 Mulai cepat: Jika tim ingin langsung mencoba alur pengujian, daftarkan diri di APIYI apiyi.com untuk mendapatkan kuota pengujian, lalu gunakan skrip di atas untuk mencatat data setiap tingkat. Perlu diperhatikan, saat permintaan diteruskan melalui platform pihak ketiga, batas ukuran body permintaan pada gateway platform mungkin lebih rendah daripada batas resmi 128 MB. Periksa dokumentasi platform sebelum menguji permintaan berukuran besar.

Pertanyaan Umum FAQ

Poin Utama Perluasan Ukuran Body Request Claude API

• Inti perubahan: Batas body request Messages dan Token Counting naik dari 32 MB menjadi 128 MB. Ini adalah penyesuaian pada lapisan HTTP.
• Yang tidak berubah: Jendela konteks, panjang output, dan cara penagihan token tetap sama.
• Perbedaan endpoint: Batch 256 MB, Files 500 MB, sedangkan endpoint jenis Agents masih 32 MB.
• Dasar pertimbangan: Periksa apakah pemecahan sebelumnya dilakukan untuk mengatasi batas ukuran atau untuk menjaga kualitas, biaya, dan performa.
• Pemeriksaan jalur request: Batas pada gateway, proksi, dan SDK sering kali terpicu sebelum mencapai batas resmi.
• Cara pengujian: Bandingkan tiga pendekatan—pengiriman langsung, referensi file, dan pemecahan menjadi beberapa bagian—pada empat tingkat ukuran. Pengujian dapat dilakukan melalui antarmuka terpadu APIYI apiyi.com.

Kesimpulan: Body Request Claude API yang Lebih Besar Bukan Berarti Sistem Lama Harus Dibongkar

Manfaat utama perluasan body request Claude API dapat dirangkum dalam tiga poin:

1. Kapasitas masuk lebih besar: Endpoint Messages langsung dari penyedia kini dapat menerima lebih banyak byte dalam satu request. Aplikasi yang sebelumnya terkendala error 413 mendapat ruang tambahan.
2. Batas lainnya tetap sama: Jendela konteks, jumlah halaman PDF, penagihan token, dan batas endpoint lain tetap perlu dievaluasi secara terpisah.
3. Keputusan bergantung pada kendala: Perubahan arsitektur sebaiknya ditentukan oleh kendala bisnis yang nyata, kualitas hasil, biaya, dan persyaratan keamanan, bukan oleh berita ini semata.

Bagi sebagian besar perusahaan, pendekatan yang aman adalah memeriksa log terlebih dahulu, menguji sampel, lalu menentukan cakupan perubahan. Berikut daftar periksa yang bisa langsung digunakan:

• [ ] Catat frekuensi error 413 request_too_large terbaru dan endpoint asalnya
• [ ] Pastikan endpoint yang digunakan aplikasi dan batas resminya (Messages / Batch / Files / Agents)
• [ ] Periksa batas body request pada gateway buatan sendiri, reverse proxy, WAF, dan load balancer
• [ ] Periksa konfigurasi timeout dan buffer pada SDK serta HTTP client, termasuk tambahan ukuran akibat base64
• [ ] Gunakan Token Counting API untuk memperkirakan jumlah token pada request besar dan sisa kapasitas konteks
• [ ] Bandingkan tiga pendekatan pada empat tingkat ukuran: pengiriman langsung, referensi melalui Files API, dan pemecahan menjadi beberapa bagian
• [ ] Evaluasi isolasi file_id antartenan dan kebijakan keamanan data
• [ ] Tentukan perlu tidaknya perubahan berdasarkan data, lalu perbarui dokumentasi teknis internal

APIYI apiyi.com dapat digunakan untuk menyiapkan lingkungan pengujian perbandingan dengan cepat. Satu kunci API dapat digunakan untuk memanggil berbagai model populer, sehingga memudahkan evaluasi pilihan menggunakan sampel nyata.

📚 Referensi

1. Catatan rilis resmi Anthropic: Pengumuman perubahan batas ukuran body permintaan pada 28 Oktober 2026
2. Tautan: platform.claude.com/docs/en/release-notes/overview

3. Keterangan: Sumber asli kenaikan batas dari 32 MB menjadi 128 MB (S1)

4. Ringkasan Claude API dan batas endpoint: Batas ukuran permintaan per endpoint dan penjelasan error 413

5. Tautan: platform.claude.com/docs/en/api/overview

6. Keterangan: Perbandingan batas endpoint Messages, Batch, Files, dan Agents (S2)

7. Dokumentasi dukungan PDF: Batas ukuran body permintaan dan jumlah halaman PDF

8. Tautan: platform.claude.com/docs/en/build-with-claude/pdf-support

9. Keterangan: Wajib dibaca sebelum memproses PDF berukuran besar (S3)

10. Dokumentasi Files API: Pengunggahan file, referensi file_id, penyimpanan, dan izin akses

11. Tautan: platform.claude.com/docs/en/build-with-claude/files

12. Keterangan: Acuan untuk mengevaluasi penggunaan referensi file dan isolasi multitenant (S4)

13. Dokumentasi jendela konteks: Penjelasan kapasitas token model

14. Tautan: platform.claude.com/docs/en/build-with-claude/context-windows

15. Keterangan: Membedakan batas byte dan batas token (S5)

16. Penjelasan resmi tentang harga dan cache: Penagihan token dan cache petunjuk

17. Tautan: platform.claude.com/docs/en/about-claude/pricing
18. Keterangan: Acuan untuk mengevaluasi dampak biaya (S6)

Penulis: Tim Teknis APIYI
Diskusi teknis: Hubungi kami melalui halaman utama APIYI di apiyi.com. Materi integrasi lainnya tersedia di pusat dokumentasi docs.apiyi.com

Artikel terkait

• Bagaimana mencoba Claude Opus 5.5 secara gratis? Panduan 5 langkah pengajuan, kuota, dan batasan: Panduan langkah demi langkah untuk mengajukan uji coba gratis claude-opus-5-5 dalam 5 langkah, memeriksa kuota uji coba, menghindari batasan umum, dan menjalankan pemanggilan pertama dengan Python dalam beberapa menit.
• claude-sonnet-5-5 vs claude-opus-5-5: Opus Lebih Cepat, Sonnet Hanya Lebih Murah? 6 Set Data Menjelaskan Kombinasi Terbaik Agent Konteks Panjang untuk Perusahaan: Claude-Opus-5-5 lebih cepat dari perkiraan; apakah Claude-Sonnet-5-5 hanya unggul dalam harga? Artikel ini membandingkan 6 aspek dan memberi skema kombinasi model untuk skenario perusahaan dengan input dan output panjang.