AI & Open Source

AI & Open Source Daily — 7 Juli 2026

T3MP3ST multi-agent red teaming, local-llm hardware guide, Ternlight 7MB browser embedding, OpenScience AI workbench, dan analisis GLM 5.2 margin collapse.

Muhammad Amien·Jul 8, 2026·7 min read

Hari ini cukup ramai — dari red teaming otonom sampai model embedding 7 MB yang jalan di browser. Dan ada analisis soal GLM 5.2 yang bikin pertanyaan awkward buat Anthropic dan OpenAI.

Lima item hari ini: T3MP3ST untuk security automation, local-llm untuk hardware guide LLM lokal, Ternlight untuk embedding browser-native, OpenScience untuk riset sains AI-driven, dan analisis margin collapse industri AI. Semua terverifikasi via GitHub API dan HN Algolia.

T3MP3ST — AI Coding Agent Jadi Zero-Day Hunter

Dari elder-plinius/T3MP3ST — platform red teaming multi-agent yang dapat 2.9k stars dalam 5 hari. Lisensi AGPL-3.0, dibuat 2 Juli 2026. Intinya: AI coding agent yang sudah lo pakai (Claude Code, Codex, Hermes, Ollama) diubah jadi hunter CVE otonom.

Konsepnya sederhana tapi radikal. T3MP3ST bukan model baru — ini harness yang membungkus agent yang sudah ada. Lo arahkan ke target authorized, dan kill chain jalan sendiri: recon, exploit, report. Dari browser War Room atau CLI. Tanpa API key baru, tanpa cloud tenant, tanpa bill kedua.

Yang bikin ini beda dari tool red teaming biasa: angkanya reproducible. Di XBOW's 104-challenge suite, T3MP3ST capai 90.1% pass@1 — di atas self-reported XBOW 85%. Setiap klaim di README bisa diverifikasi dengan npm run verify-claims, 24/24 green. Cold hunt pada CVE post-cutoff yang model belum pernah lihat juga dilakukan.

Cara install dan run-nya:

Dibandingkan dengan tool seperti Metasploit atau Caldera, T3MP3ST pakai pendekatan LLM-driven — agent membaca code, memahami logika, lalu mencari vulnerability secara semantik. Bukan pattern matching. Bedanya dengan XBOW: T3MP3ST self-hosted dan keyless, XBOW butuh cloud tenant.

Status: Rilis — open source (AGPL-3.0).

local-llm — Panduan $2k sampai $40k Buat Run SOTA LLM Lokal

Dari jamesob/local-llm — repo personal dari James O'Beirne tentang cara run SOTA LLM lokal. 1.1k stars. Bukan tool, bukan framework. Ini documentation project — guide lengkap hardware, config, dan runner untuk LLM lokal.

Isinya praktis banget. James beli 4x RTX Pro 6000 (384GB VRAM total), pasang di sistem EPYC last-gen dengan DDR4 eBay. Total base system $5.6k, GPU $40k. Ada detail yang jarang dibahas: PCIe Gen4 switch dari c-payne.com untuk P2P GPU communication, BIOS bifurcation config, kernel params (iommu=off atau NCCL hangs), GPU power limiting di 110V circuit.

Yang menarik, repo ini sudah punya runner config untuk GLM-5.2-594B — model open-weights terbaru dari Z.ai. Config-nya pakai vLLM dengan DCP4+MTP5, capai ~80 t/s @ 460k context. Itu hampir Opus-level quality, jalan di hardware sendiri.

Ada juga speech-to-text config dengan whisper-large-v3. Untuk yang budget $2k, James bilang cukup untuk run Qwen dan STT dengan hasil lumayan. Budget $40k? Hampir Opus di rumah.

Dibandingkan awesome-local-llm (2.4k stars, curated list), local-llm lebih hands-on — ada bill of materials, benchmark numbers, dan config yang bisa langsung dijalankan. Bukan list link, tapi walkthrough nyata.

Status: Rilis — open source (guide/documentation).

Ternlight — Embedding Model 7 MB yang Jalan di Browser

Dari soycaporal/ternlight — model embedding semantic search dalam 7 MB WebAssembly bundle. 196 stars di GitHub, 233 points di HN. MIT license. Engine + model + tokenizer dalam satu file, jalan di CPU tanpa GPU.

Ini distilasi dari all-MiniLM-L6, dikompres ke 384-dim L2-normalized Float32Array. Embedding speed ~5 ms per embed. Ada dua tier: @ternlight/base (7 MB, quality) dan @ternlight/mini (5 MB, ~2.5 ms, smaller). Dua-duanya API yang sama.

Use case-nya: semantic search di docs, FAQ matching, content recommendation — semua client-side. Tanpa API call, tanpa server, tanpa network latency. Bekerja di Node 18+, browser, Cloudflare Workers, Vercel Edge, Deno, dan Bun.

Dibandingkan dengan Cohere atau OpenAI embedding API, Ternlight tidak butuh network request. Latensi total ~5 ms vs ~100-300 ms untuk API round-trip. Trade-off-nya: quality sedikit di bawah model 100M+ params, dan corpus size dibatasi memory browser.

Untuk app yang butuh search di dataset kecil-sedang (docs, FAQ, product catalog), ini eliminasi dependency backend sepenuhnya. Live demo search 2k React docs entirely on-device.

Status: Rilis — open source (MIT).

OpenScience — AI Workbench untuk Riset Sains

Dari synthetic-sciences/openscience — AI workbench open source untuk riset sains. 1.0k stars, Apache 2.0. Lo kasih goal, dia baca paper, buat hipotesis, tulis dan jalankan code, run eksperimen, lalu tulis laporan. Satu sesi continuous.

Model-agnostic — jalan dengan Anthropic, OpenAI, Google, dan puluhan provider lain pakai API key sendiri. Tidak butuh akun. Punya research agent default plus specialist: biology, physics, ml. Ada critique dan literature-review sub-agents, plus read-only plan mode.

Skill library-nya 290+ skills: training (DeepSpeed, PEFT, TRL), evaluation, dataset work, molecular biology, cheminformatics, papers dan LaTeX, figures, cloud compute (Modal, Tinker). Ditambah 30+ scientific databases sebagai tools: UniProt, PDB, Ensembl, ChEMBL, PubChem, arXiv, OpenAlex, Semantic Scholar.

Dibandingkan dengan tool seperti Elicit atau Consensus (closed-source, limited scope), OpenScience runs the whole research loop — bukan cuma literature search. Bedanya dengan Devin atau agent coding biasa: OpenScience punya domain-specific skills untuk sains, bukan general-purpose coding.

UI-nya workspace browser dengan file tree, editor, terminal, session history. Inline rendering untuk molecules, structures, genomes, dan plots. Extensible via LSP, MCP servers, plugins, custom agents, dan TypeScript SDK.

Status: Rilis — open source (Apache 2.0).

GLM 5.2 dan AI Margin Collapse — Analisis dari Martin Alderson

Bukan repo, tapi artikel analisis yang dapat 432 points di HN. Martin Alderson nulis tentang GLM 5.2 dari Z.ai sebagai open weights competitor pertama yang genuinely setara dengan Opus dan GPT-5.5. Bukan hype — dia pakai GLM 5.2 sebagai daily driver selama dua minggu.

Inti argumennya: selama ini frontier AI labs (Anthropic, OpenAI) charge $25/MTok untuk inference yang probable gross margin ~90%. Business model mereka: spend massive capex untuk training, lalu amortize cost via inference yang highly profitable. GLM 5.2 mengancam margin ini karena open-weights dan kualitasnya setara.

Martin menulis: "I've found that it is slow because of the amount of thinking it tends to do. For non-interactive agentic tasks like reviewing code, it's excellent." Dia menulis bahwa sulit membedakan antara Opus (daily driver-nya) dan GLM 5.2 untuk banyak task.

Implikasinya: jika model open-weights mencapai parity quality, API providers harus turunkan harga atau kehilangan market share. Inference cost punya marginal cost genuine — tidak seperti training yang fixed upfront. Margin collapse terjadi ketika kompetitor memberikan model gratis.

Ini konteks yang penting untuk item local-llm di atas. Kalau lo bisa run GLM-5.2-594B lokal dengan 384GB VRAM, lo punya alternative ke Opus tanpa API cost. Belum viable untuk semua orang, tapi arahnya jelas.

HN thread juga menyentuh model lain: Semgrep blog post "GLM 5.2 beats Claude in our cyber benchmarks" (1.1k points), dan Artificial Analysis menempatkan GLM-5.2 sebagai leading open weights model di intelligence index (916 points).

Status: Rilis — open weights (Z.ai).

Hari ini polanya jelas: open source dan open weights mulai tekan frontier labs dari dua sisi. T3MP3ST dan OpenScience tunjukin bahwa agent-driven automation bisa self-hosted. Ternlight dan local-llm buktikan bahwa model bisa jalan tanpa cloud. Dan GLM 5.2 masuk sebagai ancaman margin yang nyata. Besok mungkin berbeda, tapi hari ini arahnya konsisten.