Grok Bot hết usage limit: 93% token là bot đọc lại chat

1. Usage limit chạm trần, và 93% là bot đọc lại chat của chính nó

Roshel Perera, founder của Smart Bot Automations, mở đầu bằng một chuyện anh vừa làm và vừa phát hiện gần đây, và theo anh (video đăng ngày 30/10/2026) phần lớn người xem cũng đang gặp. Anh cho rằng đa số đã quen với Grok Bot, và theo anh lúc quay video đăng ngày 30/10/2026, chúng đang "super popular". Anh điều hành phần lớn công việc kinh doanh bằng các AI agent này, và tính đến video đăng ngày 30/10/2026 anh có gần 60 agent khác nhau làm việc dưới quyền mình.

Tuần trước ngày quay, khi anh bắt tay vào làm việc thì usage limit đã chạm trần. Anh đi kiểm xem token đã đi đâu. Ở câu mở đầu anh nói số token bị lãng phí là 4.6 triệu, nhưng ở phần sau của video anh nói, và màn hình ghi, con số cả tuần là 4.6 tỉ token (theo số đo của Roshel Perera, video đăng ngày 30/10/2026). Trong phần lãng phí đó, theo anh, 93% là bot đọc lại (re-reading) đúng cuộc hội thoại của chính nó, lặp đi lặp lại.

Theo Roshel (video đăng ngày 30/10/2026), khi ta đưa thêm thông tin vào và cuộc hội thoại kéo dài, những thông tin đó và những phần việc tốt có xu hướng bị giảm chất lượng. Anh đoán người xem cũng rất bực vì usage bị tiêu tốn quá nhiều trong khi chất lượng câu trả lời lại không tốt. Anh đã gặp đúng vấn đề này, đã tìm ra một cách sửa, và trong video đăng ngày 30/10/2026 anh chia sẻ lại: usage của Grok Bot đi đâu, vì sao weekly limit hết nhanh như vậy, cách sửa, và chính xác anh đã cắt những gì để thay đổi. Anh đi qua năm bước.

Slide mở đầu: 93% of my usage: re-reading, cùng năm thẻ bước từ Meet the team tới The fix — Slide mở đầu trong video đăng ngày 30/10/2026: "93% of my usage: re-reading", dòng phụ "I run my business with Grok bots. Here's where the usage went.", và năm thẻ là năm bước của video: Meet the team, It went dead, Where it went, The busy-work, The fix.

2. Bước 1: đội AI khoảng 60 Grok Bot

Bước đầu tiên là giới thiệu đội của anh. Theo Roshel (video đăng ngày 30/10/2026), Chief là head of staff của anh. Anh chỉ nói chuyện với Chief, nên không phải nói chuyện với 60 agent khác nhau; theo anh, nói chuyện với từng ấy agent sẽ là một mớ hỗn độn thật sự.

Elon là CEO bot của anh. Theo lời anh trong video đăng ngày 30/10/2026, việc duy nhất anh giao cho Elon là tìm thêm lead, vì lead là nút thắt cổ chai (bottleneck) của anh. Trên slide, thẻ của Elon ghi "CEO bot" và "Ran my Upwork".

Tiếp theo là Orion, bot chạy một side business cho anh, và theo anh (video đăng ngày 30/10/2026) nó chạy hoàn toàn tự động. Trên slide, thẻ của Orion ghi "CEO of a side business" và "20+ worker bots".

Ở đây Roshel chen vào một nhận xét. Theo anh (video đăng ngày 30/10/2026), nhiều người nói Grok Bot có thể tự động lo mọi thứ, chỉ cần giao việc cho nó, kiểu như xây cả một doanh nghiệp hay bất kỳ việc gì. Anh cho rằng điều đó không hẳn đúng: anh đã phát hiện ra rất nhiều vấn đề với nó.

Agent tiếp theo là AI Rosh. Theo Roshel (video đăng ngày 30/10/2026), agent này quản lý toàn bộ tài khoản X của anh, cùng các tài khoản mạng xã hội khác, đặc biệt là LinkedIn. Trên slide, thẻ AI Rosh ghi "My clone" và "Posts on X".

Slide Meet my AI team: Rosh ở trên, bốn bot Chief, Elon, Orion, AI Rosh ở dưới — "About 60 Grok bots, one front door". Rosh (Founder) ở trên; bên dưới là Chief (head of staff, "my one front door"), Elon (CEO bot), Orion (CEO của một side business, hơn 20 worker bot) và AI Rosh (bản clone của anh, đăng bài trên X).

3. 60 agent, 82 lịch chạy, một pool usage

Rồi anh nêu vấn đề. Theo Roshel (video đăng ngày 30/10/2026), anh có 60 agent khác nhau và 82 schedule, mỗi lần một schedule chạy theo timer là nó đánh thức (pick up) agent. Trong khi đó chỉ có một pool usage duy nhất được cấp cho tất cả các agent ấy.

Thêm vào đó, theo anh (video đăng ngày 30/10/2026), app không cho bạn biết agent nào đang dùng usage cho việc gì. Anh gọi đó là hoàn toàn "flying blind", bay mà không nhìn thấy gì.

Hình 3.1Ba con số trên slide "One pool of usage for everyone" (slide trong video đăng ngày 30/10/2026): khoảng 60 Grok Bot, 82 scheduled job đang bật, và một weekly usage pool dùng chung cho tất cả.

4. Bước 2: cả đội ngừng chạy

Bước thứ hai trong hành trình của anh: cả đội "went dead". Theo Roshel (video đăng ngày 30/10/2026), toàn bộ đội, mọi agent anh đã tạo, đều ngừng hoạt động, và anh đoán người xem đã đoán ra lý do: usage limit.

Anh kể (video đăng ngày 30/10/2026) rằng trước đó anh dùng plan 30 đô. Sau khoảng ba ngày anh chạm usage limit: anh dùng hết weekly usage trong hơn hai ngày rưỡi, gần ba ngày. Mọi bot dừng lại, và toàn bộ công việc kinh doanh của anh cũng dừng. Trong 40 giờ đó mọi việc đều đứng: việc tăng trưởng trên X, việc research trên LinkedIn và trên X, và cả side business, tất cả đều ngừng trong 40 giờ.

Slide My whole team went dead với dòng thời gian năm mốc từ thứ Ba 13/10 tới thứ Hai 19/10 — Dòng thời gian trên slide "My whole team went dead" (slide trong video đăng ngày 30/10/2026): thứ Ba 13/10 weekly usage reset (plan 30 đô); thứ Sáu 16/10 hết sạch sau 2.7 ngày, mọi bot dừng; 40 giờ không gì chạy, một bot báo "the box was down"; Chủ nhật 18/10 nâng lên 100 đô, đội thức dậy; thứ Hai 19/10 nâng lên 200 đô, plan lớn nhất trên slide.

5. Mua plan lớn hơn có giải quyết được không

Rồi, theo lời Roshel (video đăng ngày 30/10/2026), anh lại chạm usage limit. Anh thấy chuyện này rất đáng chú ý: plan 30 đô anh dùng hết trong hai ngày rưỡi, nhưng plan 100 đô thì anh dùng hết trong chưa đầy một ngày.

Điều quan trọng nhất ở đây, theo anh (video đăng ngày 30/10/2026), là anh không hề biết usage của mình đang đi đâu. Theo anh, app không cho thấy những việc cụ thể nào đang làm tiêu tốn usage; nó chỉ hiện weekly usage limit, tức thanh đo usage (usage meter), và thời điểm usage được reset.

Anh kể tiếp (video đăng ngày 30/10/2026) rằng trong cùng khoảng thời gian đó, toàn bộ usage của plan 200 đô cũng bị các agent tiêu hết trong hai ngày rưỡi, mọi thứ lại tắt, và anh thấy rất bực. Anh từng nghĩ chỉ cần mua plan lớn hơn là vấn đề usage được giải quyết, và theo anh, đa số người dùng cũng đang nghĩ như vậy. Thực tế, theo số đo của anh (video đăng ngày 30/10/2026), 81% usage của plan 100 đô đã hết ngay sau khi anh nâng cấp.

Slide Just buy a bigger plan với con số 81% a day after the $100 upgrade — Slide "Just buy a bigger plan?" (slide trong video đăng ngày 30/10/2026) đặt điều nhiều người nghĩ cạnh điều thật sự xảy ra: "81% gone a day after the upgrade", 81% usage đã hết một ngày sau khi nâng lên plan 100 đô.

6. Bước 3: một tuần, 4.6 tỉ token

Sang bước ba: usage đã đi đâu. Roshel gọi đây là phần thú vị nhất. Anh dùng Claude Code để phân tích toàn bộ chuyện này. Theo số đo của anh (video đăng ngày 30/10/2026), từ 13/10 tới 20/10/2026, cả đội AI của anh đã dùng 4.6 tỉ token. Anh gọi đó là một con số khổng lồ, và theo anh đó là lý do usage của anh lúc nào cũng bị giới hạn.

Cách anh làm (video đăng ngày 30/10/2026): anh tải toàn bộ dữ liệu usage của mình về, đưa cho agent Claude Code của anh, rồi để nó phân tích tất cả. Đó là cách anh biết được những điều dưới đây.

Slide One week of my AI team: 13 to 20 October 2026, 42,937 requests, 4.6 billion tokens — Slide "One week of my AI team" (slide trong video đăng ngày 30/10/2026): 13 đến 20/10/2026, 42,937 request, tổng cộng 4.6 tỉ token.

7. Bạn trả tiền cho cái AI đọc, không chỉ cái AI viết

Theo Roshel (video đăng ngày 30/10/2026), đa số mọi người nghĩ mình chỉ trả tiền cho cái AI viết ra, tức các câu trả lời. Nhưng bạn cũng trả tiền cho cái nó đọc. Mỗi lần bạn giao cho bot một việc, hoặc mỗi lần bot được schedule của bạn đánh thức, nó sẽ đọc lại toàn bộ cuộc hội thoại trước đó, cả cuộc hội thoại dài bạn đã có với nó. Nó đọc lại tất cả, lặp đi lặp lại, mỗi khi bạn gửi một tin nhắn.

Anh đưa một hình ảnh so sánh: hãy tưởng tượng bạn hỏi ai đó một câu, và mỗi lần bạn hỏi, người đó lại đọc lại toàn bộ đoạn chat WhatsApp. Theo anh (video đăng ngày 30/10/2026), đó là lãng phí hoàn toàn, và đó chính xác là điều AI đang làm.

Trên tổng số token (anh nói 46 tỉ, còn màn hình ghi "Of 4.6 billion"), theo số đo của Roshel (video đăng ngày 30/10/2026): 93.2% dùng cho việc đọc lại, chỉ 5.8% cho cache writes, chỉ 0.64% cho những gì bot nói với anh, và chỉ 0.37% cho fresh prompt.

Để công bằng, anh quy ra tiền (video đăng ngày 30/10/2026): trong 200 đô, 74% là cho việc đọc lại. Dòng chú thích trên màn hình ghi rõ hơn: tính theo giá niêm yết chứ không phải số tiền anh thật sự trả, phần đọc lại chiếm 74.3%. Anh vẫn gọi đó là lãng phí hoàn toàn.

Biểu đồ thanh 93% of tokens: re-reading 93.2%, cache writes 5.8%, what the bots said 0.64%, fresh prompt 0.37% — Slide "93% of tokens: re-reading" (slide trong video đăng ngày 30/10/2026): re-reading 93.2%, cache writes 5.8%, what the bots said 0.64%, fresh prompt 0.37%; dòng dưới: "In dollars at list price, not what I paid: re-reading 74.3%".

8. Một cuộc chat chỉ có lớn thêm

Theo Roshel (video đăng ngày 30/10/2026), các bot không có một hình dung thật rõ ràng về mọi thứ; anh ví trí nhớ của chúng như làn khói, không rõ nét. Anh nói nó đọc cả một cuốn sách để viết một đoạn văn (slide ghi "It reads a book to write a paragraph"). Trên slide, một bước bình thường đọc 95.8k ("95.8k read, a normal step"), và anh nói cùng bước đó chỉ viết ra 344 (video đăng ngày 30/10/2026).

Theo anh (video đăng ngày 30/10/2026), một cuộc chat chỉ có lớn thêm, không bao giờ nhỏ lại, và đống dữ liệu cứ to dần mỗi lần bạn tương tác với nó. Khi bắt đầu một chat mới, nó chỉ khoảng 16 đến 18k token. Theo thời gian, các bot lớn của anh mang theo khoảng 200,000 đến 380,000 token ở mỗi bước (số đo của Roshel, video đăng ngày 30/10/2026).

Slide A chat only grows: các bước xếp chồng, 16-18k cho chat mới, 200k to 380k cho bot lớn — Slide "A chat only grows. Step after step, the pile gets bigger." (slide trong video đăng ngày 30/10/2026): chat mới bắt đầu ở 16-18k token, còn các bot lớn của anh mang 200k đến 380k token ở mỗi bước.

Để người xem hình dung rõ, anh đi qua từng bước (video đăng ngày 30/10/2026). Ở bước 1, bot đọc lại cuộc chat. Ở bước 2, nó đọc lại cuộc chat cộng thêm bước 1. Ở bước 3, nó đọc lại cuộc chat cộng bước 1 và bước 2. Ở bước 4, nó đọc lại tất cả các bước trước cùng với cuộc chat. Anh gọi đây là một vòng lặp không bao giờ kết thúc. Theo anh (video đăng ngày 30/10/2026), bot lớn tốn gấp tám lần bot nhỏ.

Hình 8.1Vòng lặp Roshel mô tả trong video đăng ngày 30/10/2026: mỗi bước đọc lại cả cuộc chat cộng mọi bước trước nó, nên phần phải đọc lại cứ dài thêm. Slide của anh ở đoạn này ghi "An AI has no memory between steps" và "New chat: ~16k tokens".

9. Bước 4: busy work, timer đánh thức bot vô ích

Bước bốn là busy work. Khi phân tích các agent của mình, Roshel thấy vấn đề sau. Theo số đo của anh (video đăng ngày 30/10/2026), trong tuần đó các agent của anh được đánh thức khoảng 1,540 lần, và mỗi lần như vậy chúng lại đọc lại toàn bộ các cuộc chat.

Điều làm anh ngạc nhiên (video đăng ngày 30/10/2026): anh có 45 watchdog, và trong 45 watchdog đó, 43 cái không tìm thấy gì. Chỉ hai cái tìm ra những việc thật sự quan trọng cần anh chú ý. Vậy mà lần nào chúng cũng đọc lại mọi thứ, chỉ vì các watchdog đó. Anh thấy rất bực, và theo ước tính của anh (video đăng ngày 30/10/2026), phần này chiếm khoảng 25 đến 40% weekly usage của anh.

Slide Timers wake up big chats: 1,540 scheduled runs a week, 45 runs only 2 found work, 25-40% of my weekly usage (estimate) — Slide "Timers wake up big chats" (slide trong video đăng ngày 30/10/2026): 1,540 lần chạy theo lịch mỗi tuần; 45 lần chạy mà chỉ 2 lần tìm thấy việc; 25-40% weekly usage của anh, ghi rõ là ước tính.

10. Cắt bớt số lần đánh thức Orion

Việc đầu tiên Roshel làm là cắt bớt số lần đánh thức bot. Theo số đo của anh (video đăng ngày 30/10/2026), Orion là bot bận nhất của anh: trước đây nó chạy 39 lần mỗi ngày, sau khi cắt chỉ còn 20 lần mỗi ngày. Các job vẫn được làm như cũ, chỉ ít lần chạy hơn, và theo anh nhờ vậy anh tiết kiệm được một ít usage.

Slide Cut the wake-ups: Orion, before 39 runs a day, after 20 runs a day — Slide "Cut the wake-ups" (slide trong video đăng ngày 30/10/2026): Orion, bot bận nhất, từ 39 lần chạy mỗi ngày xuống 20 lần; dòng dưới ghi "Same jobs, fewer timers".

11. Bước 5: không có nút new session, trim và group mới đều không được

Rồi tới phần sửa. Theo Roshel (video đăng ngày 30/10/2026), trong Claude Code bình thường ta có thể bắt đầu một session mới với context bằng không và chỉ đưa vào những thông tin cần thiết. Nhưng trong Grok Bot, theo anh (video đăng ngày 30/10/2026), ta không làm được như vậy vì ở đó không có tuỳ chọn new session.

Anh kể những gì đã thử (video đăng ngày 30/10/2026). Đầu tiên là trim: anh cố cắt bớt session bằng cách bỏ đi những phần không cần thiết để tiết kiệm chỗ, nhưng app từ chối. Sau đó anh thử thêm agent vào một group mới, để nó chỉ đọc các tin nhắn trong group đó, nhưng nó vẫn ở mức 83k, tức 83,000 token, và theo anh vẫn rất cao.

Slide Just clear the chat: Trim refused by the app, New group chat still 83k — Slide "Just clear the chat?" (slide trong video đăng ngày 30/10/2026) với hai lần thử không thành: trim bị app từ chối, và chat trong group mới vẫn 83k token.

12. Handoff file và một bản sao mới của bot

Sau đó anh tìm ra một cách giải quyết. Điều đầu tiên, theo Roshel (video đăng ngày 30/10/2026), là cho mỗi bot một handoff file ngắn, để nó đọc file đó thay vì đọc cả cuộc chat. Trong trường hợp của anh, handoff chỉ khoảng 600 từ, nên bot chỉ đọc đúng phần đó, dưới 3,000 token (số đo của Roshel, video đăng ngày 30/10/2026).

Khi một cuộc chat dài ra, theo anh (video đăng ngày 30/10/2026), hãy bắt đầu một bản sao mới (fresh copy) từ file đó: cùng tên, cùng công việc, nhưng một khởi đầu sạch, vì mọi thứ đã được ghi lại rất kỹ. Slide ở đoạn này ghi "Tired bot out. Fresh copy in." và "It drops the pile and keeps one clean page".

Roshel nói (video đăng ngày 30/10/2026) anh dùng hệ thống wiki của Andrej Karpathy. Rồi anh đi qua các bước đổi bot. Thứ nhất là viết handoff. Thứ hai là lưu lại cuộc chat cũ. Thứ ba là một bot mới với cùng tên. Thứ tư là giữ nguyên các schedule job. Theo anh, những thứ này tạo ra khá dễ. Cuối cùng, bot cũ được đổi tên thành "old" nhưng không bao giờ bị xoá, vì nếu cần thì vẫn còn đó. Sau đó, mọi agent khác sẽ liên lạc với agent mới được tạo.

Slide The swap, step by step: Write the handoff, Save the old chat, New bot same name, Same scheduled jobs, Old one renamed (old) never deleted — Slide "The swap, step by step. Same name, same job, clean start." (slide trong video đăng ngày 30/10/2026): 1 viết handoff, 2 lưu chat cũ, 3 bot mới cùng tên, 4 giữ nguyên scheduled job, 5 bot cũ đổi tên thành "(old)" và không bao giờ bị xoá.

Điều thứ ba có thể làm, theo Roshel (video đăng ngày 30/10/2026), là cắt các timer, tức những schedule và watchdog bật agent lên mà không có mục đích gì.

13. Đo trên một bot: ít hơn 35 đến 50% token mỗi bước

Theo số đo của Roshel (video đăng ngày 30/10/2026), trước đây bot này dùng khoảng 83k đến 94k token, và sau khi làm những việc trên thì giảm xuống còn 44k. Đây là một agent anh tạo khá gần đây. Theo anh, mỗi khi usage tăng lên, ta có thể làm lại những việc này để giảm nó xuống.

Với Chief và Orion, anh nói (video đăng ngày 30/10/2026) anh vẫn đang đo: anh cần làm việc và tương tác với chúng thêm một chút để biết chính xác mức giảm là bao nhiêu. Theo anh, đó là hai agent quan trọng nhất của anh, và anh khá chắc có thể giảm được rất nhiều usage ở đó. Với bot đã đo, theo số đo của anh (video đăng ngày 30/10/2026), mức dùng ít hơn trước 35 đến 50%.

Slide One bot, measured: before 83k to 94k, after first step 44k, after next six 46k to 60k, Chief and Orion still measuring, 35 to 50% less — Slide "One bot, measured" (slide trong video đăng ngày 30/10/2026), dòng phụ "Closer, 7 steps.": trước là 83k đến 94k token; bước đầu sau khi đổi là 44k; sáu bước tiếp theo 46k đến 60k; Chief và Orion vẫn đang đo. Kết quả: ít hơn 35 đến 50% token mỗi bước, trên một bot, qua bảy bước.

14. Ba bước, và một vấn đề mới sau khi đổi

Roshel gói cách làm thành ba bước (video đăng ngày 30/10/2026): cho mỗi bot một handoff file; chat nào dài thì bắt đầu lại từ đầu bằng file đó; và cắt những timer không tìm thấy gì. Theo anh, bạn có thể bắt đầu việc này càng sớm càng tốt. Slide cuối của phần này ghi "Start Monday" với ba việc nhỏ cần kiểm: export usage của bạn, đếm các timer, và viết một handoff (slide trong video đăng ngày 30/10/2026).

Hình 14.1Ba bước trên slide "Do it in 3 steps" mà Roshel đọc lên trong video đăng ngày 30/10/2026: handoff file cho mỗi bot, chat dài thì bắt đầu lại từ file đó, cắt các timer không tìm thấy gì.

Nhưng rồi, theo Roshel (video đăng ngày 30/10/2026), có một thứ bị hỏng: agent chính của anh, tức Chief, đã quên một điều anh giải thích cho nó từ rất lâu trước đó. Anh nói đây là một vấn đề thật anh gặp phải sau khi dùng hệ thống này.

Anh khép video (đăng ngày 30/10/2026) bằng lời chúc người xem thích video, và một câu tóm ý: hãy viết memory của bạn ra một lần, và mỗi lần làm vậy, mọi bot sẽ thông minh hơn và rẻ hơn. Slide cuối ghi "Write your memory down once. Every bot after that gets cheaper."