Topics / Distributed Systems

8 talks

Eval trong production cho hệ thống agentic AI

Nishant Gupta · Meta · 8 min

Eval cho agent phải đo hành vi cả hệ thống: scenario offline, production telemetry, human review, drift, trace và metric reliability gắn với kết quả kinh doanh.

Log chính là agent

Ishaan Sehgal · Omnara · 15 min

Agent không phải model hay runtime mà là append-only log: từ đó có reliability, scaling, forking, migration, và ai giữ log là người sở hữu agent.

Từ research tới thực tế: đưa nghiên cứu ML frontier vào production

Vaidas Razgaitis · Higharc · 13 min

Ba đòn bẩy để đưa prototype ML vào production: tài liệu bàn giao RPT, monorepo microservice tách rời, và phân rã prototype thành stacked PR.

Xây hạ tầng deterministic cho AI agent non-deterministic

Nishant Gupta · Meta · 7 min

Model là stochastic nhưng infrastructure phải deterministic: retry storm, model chỉ đề xuất, agent control plane, trace, memory consistency và safety nhiều lớp.

Prompt chính là platform

Dominik Tornow · Resonate HQ · 18 min

Khi agent sinh được implementation, sản phẩm là specification: Resonate dùng deterministic simulation để agent tự design rồi build Resonate trên NATS.

Tôi chạy một đội AI agent trên ba máy, và đây là những gì đã hỏng

Kyle Jaejun Lee · KRAFTON · 9 min

Vận hành đội coding agent trên ba máy: hierarchy CEO→worker, state nằm trong file, reset thay compact, review gateway, năm failure và hướng đi Kubernetes.

Medic cho Apache Spark: sơ cứu cho job bị fail

Drasko Profirovic · Pinterest · 11 min

Pinterest xây agent chẩn đoán Spark job fail: MCP, E2E test harness record/playback, lọc exception, metrics thành hình, rồi multi-agent trên deepagents.

Kiến trúc replay-safe: event-driven system phục hồi được một cách tự tin

Ishan Shah · PayPal · 25 min

Replay an toàn cho Kafka pipeline: idempotency hai lớp Redis và DynamoDB, recovery pipeline tách riêng, và runbook Scope, Isolate, Execute, Prove.