Dựng Open WebUI cho khách: rủi ro nằm ở volume và giấy phép
Toàn bộ chat của khách nằm trong một volume Docker, còn logo của khách trên giao diện có thể vi phạm giấy phép.
20/11/2026
Tờ báo của nghề Forward Deployed Engineer
Công cụ FDE dùng hằng ngày để triển khai, tích hợp dữ liệu và đánh giá AI tại khách hàng.
Toàn bộ chat của khách nằm trong một volume Docker, còn logo của khách trên giao diện có thể vi phạm giấy phép.
20/11/2026
Trước buổi họp, hãy biết cổng nào đang mở, chứng chỉ do ai cấp và máy nào sẽ tin nó, để trình duyệt khỏi báo lỗi trước mặt khách.
Ba khối cơ bản, một hàng đợi chạm ngưỡng và lịch sử từng bản ghi là đủ cho lần gỡ sự cố đầu tiên.
Chọn công cụ nào tùy vào việc khách ngại giấy phép hay muốn viết hạ tầng bằng ngôn ngữ lập trình.
Fast đủ cho văn bản thuần, còn bảng có ô gộp cần tầng cao hơn, nên hãy thử trang khó nhất trước khi báo giá.
Một container Keycloak và một file realm JSON đủ để bạn đến buổi họp với luồng đăng nhập đã chạy được.
Một file trace ghi lại từng action và từng request, để khách tự xem luồng đã chạy ra sao.
Hurl chạy được trên laptop của bạn lẫn trong pipeline CI của khách, và đội của khách đọc hiểu được từng dòng.
kind dựng cụm Kubernetes từ container Docker bằng một lệnh, đủ để bắt lỗi chart trước buổi cài thật.
Một base dùng chung, mỗi khách một overlay chỉ ghi phần khác biệt, và bản sửa upstream chỉ phải làm một lần.
shadcn/ui chép component thẳng vào repo của bạn, nên màn hình quản trị sửa được theo ý khách mà không phải chờ ai.
Vài dòng Python là khách tự thử được với dữ liệu của họ, nhưng link chia sẻ chỉ sống một tuần và model vẫn chạy trên máy bạn.
Hãy bật read-only trước khi mở cụm prod, vì ctrl-k xoá tài nguyên mà không hỏi lại.
Tách quyết định khỏi chỗ thực thi, và luật phân quyền có thể test, review, cập nhật mà không phải restart.
Cái bẫy thường nằm ở một tên bucket viết cứng hoặc một construct bị đổi tên.
Contract sinh ra từ chính test của bạn, nên khách được thêm field thoải mái và chỉ bị chặn khi phá đúng phần bạn dùng.
Chỉ cần Docker, mỗi lần chạy test có database riêng, chạy xong là xoá, không phải chờ ai cấp quyền.
Gitleaks tìm ra key bị lộ, nhưng việc đầu tiên là thu hồi key, chưa phải viết lại lịch sử.
Ngưỡng p95 thất bại khiến k6 thoát với mã lỗi khác 0, tín hiệu CI nào cũng hiểu, nên FDE biết hệ thống chậm trước khi khách hàng gửi email phàn nàn.
Infracost ước tính chi phí ngay trên CI, nhưng chỉ chặn được merge khi bạn bắt nó làm status check bắt buộc.
Chạy lại cả script giúp demo ra nhanh, nhưng trạng thái và phân quyền mới là chỗ nó gãy.
Flyway, Rails và Liquibase đều lưu dấu từng migration, và cách sửa đúng luôn là viết thêm file mới.
SOPS chỉ mã hoá giá trị nên git diff vẫn đọc được, còn khoá age nằm trong tay khách.
Phần lớn công việc nằm ở cách dựng bảng trước buổi họp chứ không ở chính buổi họp.
Cái khó không nằm ở lệnh gọi API, mà ở câu hỏi token của ai, được làm gì và ai giữ nó.
Một công cụ dòng lệnh vừa đồng bộ SFTP, S3, GCS vừa xuất báo cáo đối chiếu từng file, miễn bạn hiểu hash ở mỗi đầu.
Kết nối chỉ đi ra nên đội bảo mật dễ gật đầu hơn, nhưng hostname chưa gắn Access policy thì ai trên Internet cũng vào được.
Trên bản self-managed, thủ phạm thường là registry chưa bật hoặc runner không được chạy privileged, nên hãy hỏi trước khi viết.
Coval, do một cựu tech lead của Waymo sáng lập, chạy hàng nghìn cuộc gọi giả lập có tiếng ồn, rồi dùng nhận xét của người thật về cuộc lỗi để huấn luyện lại AI judge.
Label Studio mã nguồn mở, chạy từ một container Docker, để chuyên viên pháp chế hay bác sĩ tự dựng bộ dữ liệu vàng ngay trong hạ tầng của khách.
Row Level Security quyết định demo để lộ dữ liệu mọi người dùng hay hiện màn hình trống lúc khách đăng nhập, nên phải làm nó trước tiên.
Theo Nango, 16% commit vào cấu hình provider là để sửa lỗi, cơ sở để quyết định khi nào giao lớp tích hợp đi và khi nào tự viết.
marimo lưu mỗi notebook thành file Python thuần và tự chạy lại các cell phụ thuộc, nên biểu đồ vẽ từ ngưỡng cũ không lọt vào bản bàn giao.
Hậu thân mã nguồn mở của MemGPT vẫn để FDE chọn token nào vào mỗi lần gọi, trả tiền cho nó, và biết khi nào không nên dùng.
Quay video khi thông tin đi một chiều như demo hay cột mốc, còn thương lượng scope, báo tin xấu hay cần nhiều bên đồng ý thì vẫn phải họp.
Hai lệnh là có báo cáo PASS/FAIL đầu tiên, còn giá trị thật nằm ở việc quét chính chatbot của khách và hiểu kết quả chứng minh được tới đâu.
Mỗi lần apply thay toàn bộ monitor trong một namespace nên mỗi khách cần namespace riêng, còn luật nghiệp vụ vẫn phải tự viết bằng SQL.
Session Manager đưa toàn bộ quyền truy cập vào IAM policy, nhưng tunnel SSH qua nó không ghi lại nội dung phiên, điều khách cần biết trước khi ký duyệt.
Genie trong Agent Studio gọi các workflow đang chạy như skill, nhưng tài liệu đã ghi sẵn vài giới hạn cần tính trước.
Mặc định thư viện mã nguồn mở này chỉ có mô hình tiếng Anh, nên cài xong rồi hứa với khách "đã che PII" là hứa quá tay.
Datadog chỉ nối trace với log khi log mang trace ID, và một phép kiểm tra năm phút trước buổi họp giữ được mạch điều tra.
Image, Helm chart và cấu hình nằm chung một file được kiểm trước ranh giới, điều FDE càng cần khi khách hàng thuộc ngành bị quản lý chặt.
Runtime, Identity và Observability ứng với agent chạy ở đâu, ai được gọi nó, log nằm đâu, còn khoảng trống quyết định FDE được hứa gì.
Tách Word, PowerPoint và email theo cấu trúc giúp từng chunk giữ được metadata parent_id, nhưng phải đổi vài thiết lập trước khi index tài liệu của khách.
Scripted REST lo chiều gọi vào, spoke của Integration Hub lo chiều gọi ra, còn MID Server trong mạng khách quyết định chúng có lên được production.
Pipeline chạy xanh vẫn có thể ra dữ liệu sai; điều phối theo bảng được tạo ra thay vì theo task mới cho thấy khác biệt đó.
Mermaid lưu sơ đồ dưới dạng chữ trong repo, nên bước xử lý nào đổi thì sơ đồ được sửa luôn trong cùng pull request.
Stripe CLI chuyển tiếp sự kiện mà không cần URL công khai; nếu buộc phải mở tunnel, hãy đặt giới hạn trước khi request đầu tiên tới.
Tắt allowInternetAccess là chặn mọi đường ra, và một script ngắn giúp bạn chứng minh điều đó với đội bảo mật của khách.
Chỉ một decorator đã ghi lại input, output và code của hàm, đủ để mở lại lần gọi lỗi hôm qua và chứng minh bản sửa có tác dụng.
Một lệnh quét bắt được lỗ hổng đã biết và secret bị lộ trước khi khách phát hiện; vụ chiếm tag tháng 3 đổi cách bạn chạy nó trong CI của khách.
Great Expectations biến những giả định chưa ai ghi ra về dữ liệu thành bộ kiểm tra chạy mỗi đêm, để FDE thấy lỗi trước khi khách thấy.
Nó render JavaScript và chuyển PDF sang Markdown; regex theo pathname, limit và maxAge quyết định crawl gì, tốn bao nhiêu và dữ liệu tươi đến đâu.
Cortex Analyst lo câu hỏi trên bảng, Cortex Search lo văn bản, còn FDE phải làm cho dữ liệu của khách mang đúng nghĩa.
Một biến site giúp panel ở site 7 đo đúng như site 1 khi khách hỏi vì sao chậm, còn cảnh báo chỉ nên kêu khi người dùng thật sự bị ảnh hưởng.
Mặc định chỉ báo lệch chứ không tự sửa, và đó đúng là điều FDE cần khi deploy lên nhiều cụm Kubernetes của khách.
Bản dùng thử Ignition đủ tính năng, chỉ phải reset sau mỗi hai giờ, giúp FDE hiểu nhà máy trước buổi gặp khách đầu tiên.
Với đội khách viết TypeScript, Mastra gom workflow, bộ nhớ, MCP và eval vào một repo; với đội thuần Python, lợi thế ấy gần như mất hết.
Astral công bố độ tương thích hơn 99,9% với code đã format bằng Black, nên diff đủ nhỏ để team của khách đọc và duyệt được.
Evidently so dữ liệu production với một tập tham chiếu, nên đường cơ sở lệch thì mọi cảnh báo phía sau đều lệch theo.
Pandera biến điều khoản hợp đồng thành schema cho DataFrame và chỉ đúng cột, quy tắc, giá trị gây lỗi trước khi báo cáo cho khách bị lệch số.
Bốn dòng code đủ để trace agent của khách trên OpenTelemetry, và nhờ SQL chuẩn, data engineer bên khách đọc được ngay query của bạn.
Phoenix tự host không gửi dữ liệu nào về Arize; trace chỉ ra bước lỗi, eval cho biết lỗi bao nhiêu lần, nhưng hãy đọc kỹ giấy phép.
Unsloth tuyên bố dùng ít hơn 70% VRAM, đủ để train model nhỏ trên một card T4 rồi xuất sang định dạng máy của khách chạy được.
Docling, bộ công cụ mã nguồn mở giấy phép MIT từ IBM Research, giữ nguyên bố cục và bảng khi xuất Markdown, chạy hoàn toàn cục bộ.
Node-RED nối Modbus và OPC UA sang MQTT trong một buổi chiều; bẫy nằm ở việc quy đổi giá trị thô, khởi động lại sau khi cài và khóa editor.
pandas nạp hết dữ liệu rồi mới xử lý, còn scan_csv của Polars lập kế hoạch truy vấn trước và chỉ đọc những cột, những dòng thật sự cần.
Nebius vừa thỏa thuận mua Tavily, và việc khó nằm ở chỗ chọn nguồn cho agent, kiểm tra trích dẫn và quy trách nhiệm khi nó dẫn sai.
Dev Containers và GitHub Codespaces cho đội bạn và kỹ sư phía khách cùng một bộ công cụ ngay khi clone repo.
Khi khách hỏi "có bao nhiêu đơn lỗi trên 500?", câu trả lời nhanh nhất có khi chỉ là một dòng lệnh, không cần mở notebook.
Cloud Run giúp khỏi mất ngày đi xin quyền dựng hạ tầng, nhưng câu đầu tiên phải hỏi là dịch vụ có giữ trạng thái không.
Type hint sinh cùng lúc hợp đồng dữ liệu, trang /docs và file OpenAPI, nên team app của khách bấm thử được trước khi bạn ra về.
Ở những khách hàng cấm đưa dữ liệu lên dịch vụ bên ngoài, một API client không có tài khoản và không đồng bộ lên mây sẽ bớt cho bạn nhiều câu hỏi từ đội bảo mật.
Proxy miễn phí, giấy phép MIT này cho cả hai bên cùng xem request và response thật, và giấy phép là thứ IT của khách hỏi đầu tiên.
SDK TypeScript của MCP đã bắt buộc Zod; một schema ở lối vào vừa kiểm tra dữ liệu lúc chạy vừa sinh kiểu, nên hai thứ không lệch nhau.
Siemens Industrial Copilot, AWS IoT SiteWise và Azure IoT Operations hay ngồi chung bàn họp nhưng không làm cùng một việc.
Cả Claude Code, Codex và Cursor đều khoanh vùng được, nhưng mặc định khác nhau, và ngoại lệ dễ vi phạm chính sách khách nằm trong tài liệu quyền riêng tư.
Chạy nhúng trong script, không cần server, giấy phép MIT, vẫn xử lý được hàng trăm GB CSV và Parquet, nên dễ qua khâu duyệt phần mềm của khách.
Không YAML, không Dockerfile, tính tiền theo giây kèm $30 credit miễn phí mỗi tháng, nên 10.000 file của khách không phải chờ dựng hạ tầng.
Global Standard là mặc định Microsoft khuyên dùng, nhưng nó có thể xử lý prompt ở bất kỳ Azure region nào, điều compliance ở châu Âu sẽ không chấp nhận.
Vercel AI SDK gom mọi nhà cung cấp vào một API, đổi model chỉ cần sửa một dòng, còn streaming giúp demo thoát cảnh spinner tới 40 giây.
Tài khoản database, quyền theo nhóm và cách embed quyết định dashboard dựng trong một buổi chiều có trụ được khi khách mời thêm hai mươi người.
Sentry mang về ngữ cảnh mà tin nhắn "nó bị lỗi" của khách không bao giờ có, miễn là bạn đừng nhầm tag với context.
Mỗi khách cầm một virtual key với model, ngân sách và rate limit riêng, còn key gốc của nhà cung cấp nằm yên trong gateway tự host.
Ai quen SQL và JavaScript có thể dựng công cụ nội bộ cho khách trong vài giờ; kỹ năng thật là biết khi nào quay về React.
Tham số model sinh ra được kiểm tra bằng schema trước khi code chạy; đổi model chỉ cần sửa một chuỗi, nhưng muốn chứng minh vẫn đúng thì cần eval.
Lỗi production được gom thành dataset, chấm bằng scorer và chạy trên mỗi pull request, nên regression bị chặn ở bước merge chứ không đến tay khách.
Giới hạn của Code node, phạm vi giấy phép fair-code và bài toán scale quyết định luồng kéo-thả có trụ được trong production hay không.
Tailscale dựng đường hầm WireGuard qua NAT traversal, và ngay cả relay DERP cũng không đọc được dữ liệu, hai luận điểm đủ để thuyết phục đội bảo mật.
Promptfoo chạy eval và red team ngay trên máy local, biến 3 prompt, 2 model, 20 câu hỏi thành một bảng 120 kết quả mà không qua dịch vụ bên thứ ba.
Lý do để FDE học uv không phải tốc độ, mà là dựng lại đúng một môi trường trên những máy bạn không quản lý.
CEO Temporal cho rằng agentic AI chủ yếu làm lộ ra bài toán cũ về state và xử lý lỗi, nên phần khó của agent production hiếm khi nằm ở prompt.
Tin ở Seoul đòi hiểu cả runtime internals của Spark, trong khi tài liệu cho thấy Genie chỉ trả lời đúng khi quyền truy cập, row filter và quy tắc nghiệp vụ được làm kỹ.
Chart có phiên bản và file values riêng cho từng khách giúp mỗi lần cài có lịch sử và quay lui được bằng một lệnh.
Chunk usage khi streaming, provider chọn theo giá và fallback sang model khác đều không báo lỗi, nhưng có thể làm lệch kết quả mà không ai hay.
Mỗi kho dữ liệu tính tiền theo một thứ khác nhau, và chỉ BigQuery chặn được truy vấn vượt hạn mức trước khi phát sinh chi phí.
Ollama và LM Studio khác nhau ít ở model mà ở cách cư xử khi mất mạng, và đó là điều quyết định buổi họp với đội an ninh của khách.
Từ khi Datadog hỗ trợ bộ quy ước GenAI của OTel vào tháng 12/2025, lựa chọn công cụ của khách không còn buộc FDE viết lại code ứng dụng.
Một thuật toán từng tìm ra câu prompt tốt hơn “Let's think step by step”; DSPy đưa cách tìm đó vào cả pipeline, để đổi model không còn phải chỉnh tay.
FDE hiếm khi bắt đầu từ trang trắng: dữ liệu agent cần đã chảy qua Glue, ADF hoặc Dataflow, và bạn phải đọc được pipeline ấy ngay tuần đầu.
Airflow mạnh nhưng kéo theo scheduler, database và worker phải trông coi, còn Luigi thì không tự kích hoạt được nếu thiếu cron.
Speakeasy dựng hơn 50 MCP server từ OpenAPI và thấy mô hình bị rối khi phải chọn giữa 200 tool, vì người và agent cần những thứ khác nhau.
Tài liệu nói API lẽ ra chạy thế nào, còn vài request đầu, nhất là request bỏ token, cho thấy nó thật sự chạy ra sao.
Ansible đẩy module qua SSH rồi xóa ngay khi chạy xong, nên việc đầu tiên là xin đội IT một tài khoản SSH được nâng quyền.
Version tự tăng, alias và liên kết về từng run thay tên file kiểu model_final_v2_fix.pkl bằng một câu trả lời chứng minh được.
Microsoft đã khuyên người dùng mới sang Agent Framework, nên câu hỏi đầu tiên là ai còn bảo trì công cụ sau khi bạn rời đi.
DataHub và Atlan cho biết ai sở hữu từng bảng và cột nào chứa thông tin cá nhân, miễn là bạn dùng chúng đúng trình tự.
Không có nhãn của người, thứ chấm điểm là một LLM khác, nên điểm Ragas và DeepEval hợp để chặn lỗi hồi quy hơn là đưa lên slide.
Con số 24 lần lấy HuggingFace Transformers làm mốc; đem nó tới đội hạ tầng đã có serving tử tế là hứa nhiều hơn cả bài báo gốc.
Mỗi service mới kéo theo backup, giám sát và người trực đêm, nên nếu khách đã chạy Postgres thì pgvector là thứ nên thử trước.
Hơn 600 connector chuẩn hoá cho phép đổi nơi nhận dữ liệu mà không viết lại phần đọc nguồn, để dành thời gian cho bài toán chính.
Hàm interrupt của LangGraph dừng agent ngay trước lệnh hoàn tiền, chờ người duyệt vài phút hay đến sáng hôm sau, rồi chạy tiếp từ đúng chỗ đó.
HashiCorp viết rõ workspace không dành cho deployment cần credential riêng, tức gần như mọi khách; module mới giữ lần triển khai thứ năm giống lần đầu.
Instructor kiểm tra output bằng Pydantic rồi tự hỏi lại kèm thông báo lỗi, chạy được trên OpenAI, Anthropic lẫn Ollama mà khách đã chọn sẵn.
Palantir tìm người hiểu nhanh vấn đề lớn nhất của khách, và trong Foundry, tầng đáng học trước là Ontology, bản sao số của cả tổ chức.
Không internet, cấm root, khác chip: Docker thành công cụ giao hàng, và Dockerfile quyết định đội hạ tầng của khách có cho phần mềm chạy hay không.
dbt bọc câu SELECT thuần trong version control, test và tài liệu, để analyst của khách tự duy trì pipeline khi bạn đã rời đi.
Langfuse trả lời bằng trace, theo dõi chi phí và eval, lại self-host được trong mạng nội bộ của khách, điều team bảo mật hỏi đầu tiên.
Giờ thuộc một quỹ của Linux Foundation, giao thức cho phép một server mở database hay ERP của khách cho Claude, ChatGPT, VS Code và Cursor cùng lúc.