AI & Open Source

AI & Open Source Daily — 13 Juli 2026

Colibri: GLM-5.2 744B jalan di 25GB RAM, OpenWiki dokumentasi otomatis, DeepSpec speculative decoding, T3MP3ST red teaming otonom, OpenScience AI workbench.

Muhammad Amien·Jul 14, 2026·5 min read

Hari ini lumayan panas — runtime LLM 744B di mesin 25GB RAM, framework red teaming otonom yang bikin XBOW ketar-ketir, dan CLI dari LangChain yang bikin dokumentasi kode otomatis. Ikut teriak hype gampang, tapi yang menarik adalah masing-masing project ini buktiin tren baru: AI tools yang makin low-resource, makin self-hosted, dan makin otonom.

Ada 5 project yang naik signifikan minggu ini. Dari Colibri yang bikin GLM-5.2 jalan di consumer hardware, sampai OpenScience yang bikin AI agent bener-bener jalankan eksperimen ilmiah end-to-end. Mari bahas satu-satu.

Colibri — GLM-5.2 (744B MoE) Jalan di 25GB RAM, Pure C

Dari JustVugg/colibri — runtime MoE dalam pure C yang bisa jalanin GLM-5.2 (744B parameter Mixture-of-Experts) di mesin konsumer dengan cuma 25GB RAM. Dapet 8.3k stars dalam 12 hari sejak repo dibuat 1 Juli.

Idenya elegan. GLM-5.2 itu model MoE — per token cuma aktivasi ~40B parameter dari 744B total. Colibri pisahin dense part (attention, shared experts, embeddings — ~17B params) yang tetap resident di RAM di int4 (~9.9 GB), sementara 21,504 routed experts disimpen di disk (~370 GB) dan di-stream on demand. Cache LRU per-layer, OS page cache jadi L2 gratis.

Engine-nya satu file C — c/glm.c — sekitar 2,400 baris. Tanpa BLAS, tanpa Python di runtime, tanpa GPU. Ada optional CUDA tier untuk pinned experts, tapi intinya: CPU-only bisa jalan.

Yang bikin ini menarik: KV-cache yang dikompres jadi 576 floats/token dari 32,768 — 57x lebih kecil. Plus MTP speculative decoding native dari GLM-5.2 sendiri, dengan 39-59% acceptance rate, menghasilkan 2.2-2.8 tokens per forward pass.

Bedanya dari llama.cpp atau project sejenis: Colibri fokus ke satu arsitektur (GLM-5.2 MoE) dan optimize sampai akar. Bukan general-purpose inference engine, tapi single-model specialist yang extract setiap drop performa dari satu arsitektur spesifik.

Status: Rilis — open source (MIT).

OpenWiki — CLI dari LangChain untuk Dokumentasi Kode Otomatis

Dari langchain-ai/openwiki — CLI yang bikin dan maintain wiki dokumentasi untuk codebase Anda, dibuat spesifik untuk AI agents. Dapet 10.8k stars dalam 3 minggu.

OpenWiki punya dua mode. Personal mode bangun personal brain wiki di ~/.openwiki/wiki dari sumber seperti Gmail, Notion, web search, HN, dan X/Twitter. Code mode bangun dokumentasi repository di folder openwiki/ untuk codebase Anda saat ini.

Yang menarik: integrasi CI/CD. Copy GitHub Actions workflow, dan setiap push otomatis buka PR dengan dokumentasi yang ter-update. GitLab CI dan Bitbucket Pipelines juga didukung. Dokumentasi yang always-fresh tanpa manual effort.

Bedanya dari tool dokumentasi tradisional seperti TypeDoc atau JSDoc: OpenWiki gak cuma extract API signatures. Agent-nya baca kode, pahami konteks, dan sintesis jadi wiki yang readable — bukan sekadar reference, tapi narasi tentang cara kerja codebase.

Status: Rilis — open source (MIT).

DeepSpec — Full-Stack Speculative Decoding Training dari DeepSeek

Dari deepseek-ai/DeepSpec — codebase lengkap untuk training dan evaluasi draft models untuk speculative decoding. Dapet 6.6k stars dalam 2 minggu.

Speculative decoding adalah teknik dimana model kecil (draft) menebak token berikutnya, lalu model besar (target) verifikasi dalam satu batch. Kalau tebakan benar, Anda dapat multiple tokens per forward pass. DeepSpec bikin training pipeline untuk draft model ini end-to-end.

Pipeline-nya tiga tahap. Data preparation (download prompts, regenerate target answers, build target cache), training (one worker per GPU), dan evaluation (speculative decoding acceptance di benchmark seperti GSM8K, MATH500, HumanEval, MBPP, LiveCodeBench, MT-Bench).

Released checkpoints sudah tersedia untuk multiple algorithms (Eagle3, DSPark) dan target models (Qwen3-4B, Qwen3-8B, Qwen3-14B, Gemma-4-12B). Tinggal download dan langsung evaluasi.

Bedanya dari eksperimen akademik biasa: DeepSpec ship code yang bisa Anda jalankan, bukan cuma paper. Config untuk 8-GPU single node, checkpoints di HuggingFace, evaluation scripts siap pakai. Ini production-grade research infrastructure.

Catatan: data preparation bisa butuh storage ~38 TB untuk default Qwen3-4B setting. Bukan project untuk laptop biasa.

Status: Rilis — open source (MIT). Paper: arxiv.org/abs/2607.05147

T3MP3ST — Multi-Agent Red Teaming Otonom, 90.1% di XBOW Suite

Dari elder-plinius/T3MP3ST — multi-agent offensive security framework yang ubah AI coding agent jadi zero-day hunter. Dapet 4.6k stars dengan 24/24 verifiable claims.

Konsepnya radikal: AI coding agent yang sudah Anda pakai (Claude Code, Codex, Hermes, atau model offline via Ollama, LM Studio, vLLM) jadi brain-nya. T3MP3ST adalah war machine yang dibaut di sekitarnya. Tanpa API key baru, tanpa cloud tenant, tanpa second bill.

Kill chain berjalan otomatis: recon, exploit, report. Bisa dari browser War Room atau CLI. Point it at authorized target, dan agent jalankan seluruh proses sendiri.

Yang bikin ini menarik: di XBOW 104-challenge suite, T3MP3ST dapet 90.1% pass@1 — di atas XBOW self-reported 85%. Setiap angka di README bisa di-recompute dengan npm run verify-claims — 24/24 green. Tidak ada trust-me numbers.

Bedanya dari Burp Suite atau Nuclei: T3MP3ST bukan scanner berbasis rules. Ini agent-driven — AI yang baca target, pahami vulnerability, dan bikin exploit sendiri. Lebih dekat ke autonomous penetration tester daripada automated scanner.

Status: Rilis — open source (AGPL-3.0).

OpenScience — AI Workbench untuk Riset Ilmiah End-to-End

Dari synthetic-sciences/openscience — AI workbench open source untuk riset ilmiah. Beri goal, dan agent baca paper, bikin hipotesis, tulis dan jalankan kode, jalankan eksperimen, lalu tulis hasilnya. Dapet 2.3k stars.

OpenScience jalankan full research loop: literature review, hypothesis, code, experiment, analysis, write-up — dalam satu sesi kontinu. Punya research agent default plus specialist agents untuk biology, physics, dan ML.

290+ skills termasuk training (DeepSpeed, PEFT, TRL), evaluation, dataset work, molecular biology, cheminformatics, paper writing, LaTeX, dan cloud compute (Modal, Tinker). Plus 30+ database ilmiah sebagai tools — UniProt, PDB, Ensembl, ChEMBL, PubChem, arXiv, OpenAlex, Semantic Scholar.

Bedanya dari tool seperti Elicit atau Consensus: OpenScience gak cuma search papers. Ini agent yang bener-bener jalankan eksperimen — tulis kode, eksekusi di real compute, query database ilmiah, dan hasilkan write-up. Lebih dekat ke AI research assistant daripada AI search engine.

Model-agnostic — support Anthropic, OpenAI, Google, dan puluhan provider lain dengan API key Anda sendiri. Bisa juga pakai open-weight models. No account required.

Status: Rilis — open source (Apache-2.0).