Organizations / Prompt Engineering

Prompt Engineering

Kênh YouTube của Muhammad Farooq về LLM, RAG, agent và các công cụ AI chạy local. · 11 talks

Agent không cần model lớn hơn, nó cần context tốt hơn

Muhammad Farooq · Prompt Engineering · 13 min

Vì sao agent hỏng do context chứ không do model, bốn luật của context tốt, và demo thêm long-term memory xuyên session cho coding agent qua MCP và Redis.

Bonsai 2: Qwen 27B nén còn 6 GB có làm được việc agent?

Muhammad Farooq · Prompt Engineering · 14 min

Bonsai 2 nén Qwen3.8-27B bằng ternary quantization còn khoảng 6 GB: hoà ở task ngắn nhưng không build xong app agentic nào, và cách đọc trace để thấy vì sao.

Context Language Models: agent tự sửa context thay vì compaction

Muhammad Farooq · Prompt Engineering · 14 min

Context language model để agent tự sửa context như một file thay cho /compact, thử pi-clm với Qwen3.8-27B local và các gotcha về harness, cache, chi phí.

EmbeddingGemma 2: RAG đa phương thức chạy được trên điện thoại

Muhammad Farooq · Prompt Engineering · 19 min

EmbeddingGemma 2 đặt text, ảnh, video, âm thanh vào một vector space: cách model hoạt động, Matryoshka, modular loading, và notebook Colab đo thật.

Tự fine-tune embedding model không khó như bạn nghĩ

Muhammad Farooq · Prompt Engineering · 13 min

Fine-tune EmbeddingGemma 2 bằng LoRA và Unsloth trên dữ liệu riêng: cặp câu hỏi và đoạn văn, in-batch negatives, chia test theo nguồn, đo cái giá.

Dựng software factory AI chạy song song và ship được thật

Muhammad Farooq · Prompt Engineering · 17 min

Software factory là một vòng lặp: năm thứ vỡ khi chạy agent song song, pipeline triage, worker, verifier, reviewer, integrator, và chi phí thật.

Thử Gemini 4 Argon: 1 triệu output token và agent chạy hàng giờ

Muhammad Farooq · Prompt Engineering · 20 min

Thử Gemini 4 Argon: continuation token cho 1 triệu output token, cách prompt output dài, chọn reasoning effort, và vì sao grader phải nằm ngoài sandbox.

Dùng RL để Qwen 4B đuổi theo Qwen 27B

Muhammad Farooq · Prompt Engineering · 16 min

Train Qwen 3.5 4B bằng GRPO trên RL environments mở: checker chặt, chọn task ở mép năng lực, vì sao điểm chững lại, rồi distillation từ 27B.

DeepSeek open source cách họ serve 155 nghìn tỷ token mỗi ngày

Muhammad Farooq · Prompt Engineering · 16 min

Đi theo một request qua DeepInfer: deepseek-recipe, KV cache giữ nhiều ngày, tách prefill và decode, expert, speculative decoding, batch invariance.

Giải thích Harness²: agent tự cải tiến harness mà không cần train

Muhammad Farooq · Prompt Engineering · 12 min

Harness² cho agent tự sửa skill, script, sub-agent và hook trong control loop qua vòng Propose, Probe, Compose, kèm kết quả và chỗ gãy.

Kimi K3.1 Pro và Opus 5.5 làm cùng 13 task dài trong Claude Code

Muhammad Farooq · Prompt Engineering · 24 min

So sánh Kimi K3.1 Pro và Opus 5.5 trên 13 task agentic dài trong cùng Claude Code: chất lượng, đường tắt, chi phí thật khi tính caching.