FDE PulseViệc làm FDE đang mở 632Mới trong 7 ngày 57Công ty đang tuyển 95Nhận làm từ xa 24%Lương trung vị (Mỹ) $205kTuyển nhiều nhất Databricks 114
EN

Tờ báo của nghề Forward Deployed Engineer

Tin tức

Itaú mở trợ lý ia.i cho 300.000 khách hàng và tự điều phối nhiều mô hình phía sau

Hai năm trước, CIO của ngân hàng Brazil này còn nói AI tạo sinh chưa đủ chín để đưa tới khách hàng; giờ họ mở rộng theo từng nấc lên cả tệp khách hàng, trên một nền tảng tự xây.

Ảnh toàn cảnh thành phố São Paulo, Brazil, hoặc một người đang dùng ứng dụng ngân hàng trên điện thoại
Ảnh: Renan / Unsplash
Chia sẻLinkedInFacebookX

Tóm tắt nhanh

  • Itaú bắt đầu mở rộng trợ lý ia.i cho 300.000 khách hàng từ 27/7/2026, sau đợt thử với một nhóm nhỏ ngày 9/6.
  • ia.i chạy trên kiến trúc multi-LLM do chính Itaú điều phối; các công cụ AI tạo sinh của ngân hàng được xây trên nền tảng nội bộ Inteligência Itaú.
  • Với FDE, mô hình chỉ còn là một linh kiện; khách hàng cần người giúp họ vận hành lớp điều phối, đánh giá chất lượng và mở rộng theo từng nấc.
Dòng thời gian năm 2026: ngày 9/6 Itaú cho một nhóm nhỏ dùng thử ia.i; ngày 27/7 mở cho 300.000 khách hàng (điểm được làm nổi bật); theo kế hoạch, cuối tháng 9 lên 3 triệu khách hàng, gấp 10 lần; tháng 12 tới toàn bộ khách hàng.
Itaú mở rộng ia.i theo từng nấc: từ nhóm thử lên 300.000 rồi 3 triệu khách hàng, gấp mười lần, trước khi tới toàn bộ khách hàng vào tháng 12. Nguồn: The Rio Times.

Ngày 27/7/2026, ngân hàng Brazil Itaú Unibanco bắt đầu mở rộng trợ lý AI tạo sinh ia.i cho 300.000 khách hàng. Từ đó khách hàng có thể gõ hoặc nói yêu cầu bằng ngôn ngữ đời thường thay cho việc bấm qua từng nút và menu.

Con số 300.000 chỉ là một nấc giữa chừng. Trước đó, ngày 9/6, một nhóm nhỏ khách hàng đã được dùng thử. Theo The Rio Times, kế hoạch ngân hàng đặt ra khi ấy là mở cho 3 triệu khách hàng trước cuối tháng 9/2026, rồi đưa ia.i tới toàn bộ khách hàng vào tháng 12/2026.

Điều đáng chú ý với FDE nằm ở hai chi tiết khác: cách Itaú xây hệ thống, và tốc độ họ đổi quan điểm. Đó là hình mẫu của khách hàng doanh nghiệp mà bạn sẽ gặp ngày càng nhiều.

Từ “chưa sẵn sàng” tới cả ngân hàng trong hai năm

Tháng 6/2024, Ricardo Guerra, CIO của Itaú, nói công nghệ này “vẫn chưa sẵn sàng để cung cấp cho khách hàng ở quy mô lớn”. Ông nói thêm rằng ngân hàng thấy nó tiến triển nhanh. Hai năm sau, chính ngân hàng ấy lên lịch đưa trợ lý tới toàn bộ khách hàng.

Trong hai năm ấy, Itaú không đứng yên. Theo Canaltech, trong năm 2025 ngân hàng gần như tăng gấp đôi số dự án AI tạo sinh đang vận hành. Các công cụ AI tạo sinh của họ được xây trong một nền tảng nội bộ tên Inteligência Itaú.

Carlos Eduardo Mazzei, CTO của ngân hàng, giới thiệu tại hội nghị Gartner rằng cách làm nền tảng riêng này đã giúp số sáng kiến chạy production tăng 141% chỉ trong một năm. Con số do ngân hàng tự công bố và chưa được kiểm toán độc lập.

Mô hình là linh kiện, lớp điều phối mới là sản phẩm

Theo The Rio Times, ia.i chạy trên kiến trúc multi-LLM do chính Itaú điều phối, thay vì phụ thuộc vào mô hình của một hãng. Với một ngân hàng, lựa chọn này hợp lý. Họ giữ được quyền đổi mô hình khi giá hoặc chất lượng thay đổi, và giữ quy tắc an toàn, dữ liệu khách hàng ở lớp mình kiểm soát.

Hệ quả cho người làm FDE khá rõ. Nếu bạn làm cho một nhà cung cấp mô hình và vào một khách hàng như Itaú, đừng mong họ đặt cả hệ thống lên sản phẩm của bạn.

Mô hình của bạn chỉ là một trong vài lựa chọn trong router của họ, và bạn phải chứng minh nó thắng trên đúng tác vụ của họ, bằng bộ đánh giá của họ.

Thử hình dung khách hàng muốn mô hình của bạn xử lý câu hỏi về sao kê thẻ. Việc đầu tiên không phải là demo.

Bạn xin vài trăm câu hỏi thật đã ẩn danh, chạy song song với mô hình họ đang dùng, rồi đưa ra bảng so sánh độ chính xác, độ trễ và chi phí mỗi lượt.

Đó là thứ nhóm nền tảng của một ngân hàng như vậy cần để quyết định.

Rollout từng nấc là một kỹ năng, không phải thủ tục

Lịch Itaú đặt ra đi từ nhóm thử nhỏ lên 300.000, rồi 3 triệu, rồi toàn bộ khách hàng. Từ nấc 300.000 lên 3 triệu là gấp mười lần, và mỗi lần như vậy, những lỗi hiếm gặp ở nhóm nhỏ sẽ thành chuyện hằng ngày.

Vì thế người triển khai phải biết trước chỉ số nào cần giữ thì mới được mở nấc tiếp theo. Ở vị trí đó, bạn có thể gắn mỗi nấc với một điểm kiểm: ở nhóm thử, đo độ chính xác trên câu hỏi thật; ở nấc 300.000, theo dõi tỷ lệ chuyển cho nhân viên và các lỗi hiếm.

Trước khi lên 3 triệu, kiểm độ trễ và chi phí mỗi lượt; nấc toàn bộ chỉ mở khi các chỉ số ấy giữ ổn định.

Đây là chỗ bạn có thể luyện ngay, ở bất cứ nước nào. Khi đọc mô tả công việc FDE ở ngân hàng hay công ty fintech, hãy để ý các cụm như LLM orchestration, evaluation, staged rollout hay guardrails.

Trên CV, một dòng kiểu “mở rộng trợ lý từ nhóm thử lên N người dùng, giữ tỷ lệ chuyển cho nhân viên dưới X%” có sức nặng hơn nhiều so với “có kinh nghiệm với LLM”.

Câu hỏi cho tháng 12 không phải là ia.i có chạy được hay không, mà là một ngân hàng tự nắm lớp điều phối sẽ cần kỹ sư như thế nào bên cạnh, và bạn có phải người đó không.

Bài này có hữu ích không?

Dùng cùng trợ lý AIHỏi Claude ↗Hỏi ChatGPT ↗
4 nguồn