Phát lại request thật bằng GoReplay: replay chạy xong vẫn chưa đủ
GoReplay không tự so response, nên bước so sánh giữa bản cũ và bản mới bạn phải tự viết bằng middleware.
Tóm tắt nhanh
- Replay chạy hết file không lỗi vẫn chưa chứng minh bản mới đúng, vì GoReplay không có sẵn bước so sánh.
- Response gốc chỉ tới được middleware khi bạn bật --input-raw-track-response lúc ghi.
- Middleware nhận ba loại message (request, response gốc, response phát lại), có thể đến lệch thứ tự, và được ghép theo ID chung.
Một bài so sánh các công cụ phát lại traffic trên DEV Community nói thẳng về GoReplay: muốn so dữ liệu gốc với dữ liệu phát lại thì bạn phải tự viết middleware. GoReplay không có bước so sánh dựng sẵn.
Với một FDE sắp chuyển khách hàng sang bản tích hợp mới, chi tiết này rất quan trọng. Bạn có thể phát hết một file traffic thật vào bản mới mà không thấy lỗi nào, nhưng như vậy mới chỉ biết bản mới nhận được request.
Còn nó trả lời đúng hay sai thì vẫn chưa biết. Wiki của GoReplay còn ghi rõ một điều kiện: response gốc chỉ được chuyển tới middleware khi bạn bật --input-raw-track-response. Quên cờ đó thì bước so sánh không có mốc để so.
Các bước dưới đây đi trọn quy trình: ghi request thật, làm sạch, phát vào bản mới có giới hạn tốc độ, rồi ghép response cũ với response mới. Bạn có thể tập với một service chạy ngay trên máy mình, rồi đem đúng quy trình này tới chỗ khách hàng khi họ hỏi “chuyển sang được chưa?”.
Bạn sẽ dựng gì, và cần chuẩn bị gì
Ví dụ xuyên suốt bài là một tình huống giả định. Khách hàng có một service cũ nghe ở cổng 8080 và phục vụ API dưới /api. Bạn vừa viết bản tích hợp mới cho cùng các endpoint đó. Trước khi cắt chuyển, bạn cần chứng minh với traffic thật rằng hai bản trả cùng một kết quả.
Bạn cần binary gor của GoReplay, đặt trên máy chạy service cũ, kèm quyền đọc traffic mạng ở đó. Bạn cũng cần một môi trường tách khỏi production để nhận request phát lại, và Python 3 để viết middleware. GoReplay chỉ chạy trên terminal và không có web UI, nên kết quả sẽ nằm trong log, không có dashboard nào để xem.
Hãy đặt một nguyên tắc an toàn trước mọi lệnh: môi trường nhận request phát lại phải được cô lập. Nếu bản mới lỡ ghi vào database production, buổi thử sẽ thành một sự cố thật.
Bước 1: ghi ra file, lấy cả response gốc
Muốn so sánh thì trước hết phải có response gốc làm mốc. Lệnh ghi ở dạng tối giản dưới đây bật --input-raw-track-response để middleware về sau nhận được response gốc. Tên cờ ghi file nên được đối chiếu với ./gor --help của phiên bản bạn cài:
sudo ./gor --input-raw :8080 \
--input-raw-track-response \
--output-file requests.gor
Cần kiểm tra: gọi thử vài request vào cổng 8080 và xem file có to dần lên không. Nếu file vẫn trống, có thể bạn đang nghe sai cổng.
Bước 2: làm sạch trước khi phát
Traffic thật luôn mang theo những thứ không nên phát lại. Phát lại một request đăng xuất có thể hủy session. Còn token thật mà đem vào môi trường khác thì coi như đã rò rỉ thông tin xác thực. GoReplay có ba cờ xử lý được những việc này.
--http-allow-url chỉ chuyển tiếp những URL khớp mẫu, nên bạn giữ được đúng phần endpoint đang chuyển đổi. --http-disallow-url thì ngược lại, loại các URL khớp mẫu ra. --http-header đặt một header cho request, và nếu header đó đã có thì nó bị ghi đè. Với ví dụ của bài, ba cờ trông như sau (TEST_TOKEN là token của một user thử nghiệm):
--http-allow-url /api \
--http-disallow-url "sign_(in|out)" \
--http-header "Authorization: Bearer TEST_TOKEN"
Có một ngoại lệ cần nhớ: theo wiki, cờ header không ghi đè được Host. Vì vậy đừng định dùng nó để đổi máy đích. Máy đích được chọn ở --output-http trong bước tiếp theo.
Bước 3: phát vào bản mới, nhưng có giới hạn
Khi phát từ file, GoReplay giữ nguyên khoảng thời gian giữa các request như lúc ghi. Bạn có thể đổi tốc độ phát, ví dụ nhanh gấp đôi, và có thể cho file chạy lặp bằng --input-file-loop. Với một bản tích hợp vừa viết xong, chạy nhanh gấp đôi thường là quá sức.
Cách an toàn hơn là đặt mức trần cho số request mỗi giây gửi tới đích. Wiki của GoReplay có ví dụ giới hạn để staging không nhận quá mười request mỗi giây.
Ghép cả các cờ làm sạch ở bước 2 vào, bạn có lệnh phát đầy đủ dưới đây. Lệnh này đã giản lược, nên hãy đối chiếu cú pháp hậu tố |10 với ./gor --help của phiên bản bạn cài:
./gor --input-file requests.gor \
--http-allow-url /api \
--http-disallow-url "sign_(in|out)" \
--http-header "Authorization: Bearer TEST_TOKEN" \
--output-http "http://new-integration.internal|10" \
--middleware "python3 diff.py"
Cần kiểm tra: log của bản mới chỉ có request tới /api, không có sign_in hay sign_out, và header Authorization mang token thử nghiệm.
Bước 4: ghép response cũ với response mới
Middleware nhận ba loại message: 1 là request, 2 là response gốc, 3 là response phát lại. Mỗi message mang một ID, và ID này giữ nguyên giữa response gốc với response phát lại, nên bạn dùng nó để ghép cặp.
Cái bẫy nằm ở thứ tự. Wiki cảnh báo rằng request và response không đảm bảo đến liền nhau, nên middleware phải giữ trạng thái cho tới khi nhận đủ hai nửa.
Đoạn code dưới đây đã giản lược và dựa trên vài giả định cần kiểm lại: mỗi dòng nhận vào là một message mã hóa hex, loại message là giá trị đầu tiên trên dòng header và ID là giá trị kế tiếp. Nó cũng chỉ so dòng status. Định dạng chính xác hãy đối chiếu với trang Middleware trong wiki của GoReplay.
import sys, binascii
pending = {}
for line in sys.stdin:
raw = binascii.unhexlify(line.strip())
header, _, body = raw.partition(b"\n")
kind, msg_id = header.split(b" ")[:2]
if kind == b"1":
sys.stdout.write(line) # trả request lại cho GoReplay
sys.stdout.flush()
continue
pair = pending.setdefault(msg_id, {})
pair[kind] = body.split(b"\r\n", 1)[0]
if b"2" in pair and b"3" in pair:
if pair[b"2"] != pair[b"3"]:
sys.stderr.write(f"{msg_id.decode()} {pair[b'2']!r} -> {pair[b'3']!r}\n")
del pending[msg_id]
Kết quả được ghi ra STDERR. Vì GoReplay chỉ có terminal, đó chính là chỗ bạn đọc kết quả, và nên chuyển nó vào một file để lọc sau. Khi dùng thật, bạn sẽ muốn so cả body, bỏ qua những trường lần nào cũng khác như timestamp, và dọn các cặp không bao giờ nhận đủ hai nửa.
Những lỗi khiến buổi thử vô nghĩa
Trước khi đọc kết quả, hãy kiểm tra middleware có nhận được cả message loại 2 lẫn loại 3 hay không. Quên --input-raw-track-response lúc ghi thì không có bản gốc để so.
Thiếu một trong hai loại, middleware sẽ không bao giờ ghép được cặp nào và log chênh lệch sẽ trống. Log trống rất dễ bị đọc nhầm thành “không có khác biệt”.
Tiếp theo, đừng để token thật lọt sang bản mới, và đừng trỏ bản mới vào database thật. Cũng đừng phát quá nhanh rồi coi timeout là lỗi logic. Hãy bắt đầu ở mức 10 request mỗi giây và chỉ tăng khi danh sách chênh lệch đã sạch.
Kỹ năng này xuất hiện thế nào ở chỗ khách hàng
Trước một đợt chuyển tích hợp, câu bạn cần trả lời là “làm sao biết bản mới không làm hỏng gì?”. Một danh sách ID có response lệch, kèm nguyên nhân của từng nhóm, thuyết phục hơn nhiều so với một dòng “test pass”.
Việc đầu tiên nên làm ở chỗ khách hàng là hỏi môi trường nào thật sự tách khỏi production, và những endpoint nào nằm trong phạm vi chuyển đổi.
Khi viết CV hoặc đi phỏng vấn, hãy kể kỹ năng này bằng kết quả: bạn đã ghi traffic thật, làm sạch, phát lại có giới hạn, rồi đối chiếu response trước khi cắt chuyển. Nếu tin tuyển dụng FDE nhắc đến migration, shadow traffic hay zero-downtime cutover, đó là lúc kể quy trình bốn bước này.
Bài này có hữu ích không?
Cảm ơn bạn đã góp ý!