GPT-5.6: Cara Bikin AI Agent Lebih Cepat dan Lebih Hemat

Ada kalanya upgrade model berarti membayar lebih untuk hasil yang sedikit lebih baik. Dengan GPT-5.6, OpenAI memutar arah. Keluarga model baru ini dirancang membuat performa agen tingkat frontier jauh lebih terjangkau, sambil tetap mendorong batas kemampuan. Persoalannya bukan lagi model mana yang terbaik, melainkan bagaimana memilih dan menyusunnya dengan cerdas.

OpenAI membagikan panduan untuk builder sekaligus membuka pratinjau mode Ultrafast. Dua pengumuman yang saling melengkapi: cara membuat agen lebih cepat dan hemat lewat model selection dan fitur Responses API, plus tier layanan baru yang menjalankan GPT-5.6 Sol sampai 14x lebih cepat dibanding pemrosesan standar.

Model Kecil, Hasil Besar

Ilusi lama dalam membangun agen adalah bahwa model flagship dengan reasoning tertinggi selalu pilihan terbaik untuk tugas jangka panjang. Itu memang benar dulu, karena model mahal jauh lebih mampu menangani konteks panjang dan tool calling. Dengan keluarga 5.6, dinamika ini berubah.

Dengan lebih banyak test-time compute, model seperti Luna dan Terra sering kali berperforma mirip GPT-5.4 dan 5.5, tapi dengan biaya jauh lebih rendah. Ini bukan klaim di atas kertas. Di benchmark BrowseComp yang menguji kemampuan model mencari fakta yang tidak jelas, GPT-5.5 (Extra High) mencetak 84.36% dengan biaya $33.27. GPT-5.6 Luna (Extra High) memberi kinerja hampir sama, 84.04%, dengan biaya $1.33. Bedanya hampir 25 kali lipat untuk hasil yang setara.

Model kecil juga cocok untuk workload bervolume tinggi dan langkah yang berulang dalam alur agentic. Contohnya startup legal-tech yang mem-parsing memo tulisan tangan sebelum analisis agentic. Alih-alih memakai model frontier untuk seluruh proses, Anda bisa pakai Terra atau Luna untuk ekstraksi dan menghemat biaya signifikan.

Responses API yang Diarsiteki Ulang

Performa out of the box yang lebih baik hanya separuh cerita. OpenAI melatih GPT-5.6 end to end dengan tiga intervensi arsitektural yang memungkinkan agen bekerja lebih efisien: reuse pekerjaan yang sudah dilakukan, dekomposisi paralel, dan memindahkan pekerjaan deterministik ke dalam kode.

Reuse berarti reasoning bisa dipertahankan antar panggilan model, dan compaction native mengompres percakapan panjang agar tetap koheren tanpa harus merekonstruksi konteks. Paralel decomposition memakai multi-agent orchestration native untuk mengoordinasikan banyak agen di workstream yang berjalan berbarengan.

Gabungan teknik ini hasilnya dramatis. Di ARC-AGI-3, GPT-5.6 Sol mencetak 13.3% dengan harness standar. Setelah retained reasoning dan compaction diaktifkan, skornya melonjak ke 38.3%, dengan output token sekitar 6x lebih sedikit. Untuk tools, saat agen mengambil 100 dokumen dan memfilternya, model tidak perlu menganalisis setiap hasil perantara di context window. Programmatic tool calling membiarkan GPT-5.6 menulis JavaScript untuk mengorkestrasi tool, menjalankan panggilan independen secara paralel, dan memproses output di luar konteks.

Mode Ultrafast, Didukung Cerebras

Pengumuman kedua menyentuh kecepatan. Ultrafast adalah tier layanan baru yang menjalankan GPT-5.6 Sol hingga 14x lebih cepat dari pemrosesan standar, diluncurkan pertama di OpenAI API dan didukung oleh Cerebras. Ia menghasilkan hingga 750 token output per detik.

Selama ini, mendapatkan kecepatan real time biasanya berarti memilih model yang lebih kecil atau khusus. Ultrafast menunjuk ke arah baru: lebih banyak pekerjaan berguna per detik. Ketika kecepatan tidak lagi mengharuskan mengorbankan inteligensi, AI bisa masuk ke bagian bisnis yang paling sensitif terhadap waktu.

• Respons insiden dan keandalan. Saat sistem kritis gagal, menganalisis application log, perubahan kode, dan laporan engineer untuk mengidentifikasi penyebab sambil outage masih berlangsung.
• Riset dan keamanan finansial. Menganalisis sinyal pasar dan mendeteksi aktivitas mencurigakan saat kondisi masih berubah.
• Dukungan pelanggan dan voice. Menyelesaikan masalah kompleks secara real time tanpa menginterupsi percakapan.
• Commerce. Menjawab pertanyaan produk, cek stok, dan menyelesaikan checkout sebelum keraguan berubah jadi abandoned cart.
• Riset dan eksperimen langsung. Mengubah riset yang tadinya berjalan semalam menjadi sesi kerja interaktif.

Di dalam OpenAI sendiri, tim insinyur memakai Ultrafast untuk respons insiden: membaca log, menganalisis trace, menyusun informasi, dan membantu menyiapkan perbaikan secepat mungkin, sementara engineer tetap memegang judgment dan deployment. Untuk riset, loop yang tadinya batch eksperimen semalam dan review pagi hari kini bisa beberapa iterasi dalam satu hari kerja.

Status: pratinjau terbatas untuk sekelompok pelanggan, akses akan diperluas seiring kapasitas bertambah.

Referensi