Mô tả công việc
FDE Times dịch từ tin tuyển dụng gốc bằng tiếng Anh.
Với vai trò Forward Deployed Engineer II (FDE II) thuộc team Custom Model and Optimization, bạn làm việc trực tiếp tại chỗ cùng các khách hàng chiến lược để xây dựng, tối ưu và vận hành các mô hình generative AI tùy biến trong môi trường production, song song với đội ngũ kỹ sư của khách hàng. Bạn chịu trách nhiệm trọn vẹn các workstream về mô hình, từ đầu đến cuối: từ xác định chuẩn đánh giá và chuẩn bị dữ liệu, đến huấn luyện và tối ưu inference, rồi triển khai lên production.
FDE II trong team này làm việc ở giao điểm giữa mô hình và hệ thống. Họ tùy biến các mô hình open-weight và foundation model tiên tiến nhất cho những lĩnh vực, ngôn ngữ và modality mới; di chuyển và tối ưu các workload huấn luyện và inference trên AWS Trainium, đồng thời vận hành các mô hình đó như những dịch vụ production. Họ là những cá nhân đóng góp độc lập, nhận các dự án mà mục tiêu kinh doanh đã rõ nhưng con đường thực hiện thì chưa. Họ đưa ra các quyết định đánh đổi trong thiết kế với sự hướng dẫn phù hợp, hạn chế các giải pháp tạm thời ngắn hạn, hướng dẫn người khác viết code chất lượng cao và đào tạo thành viên mới trong team.
Trách nhiệm chính của công việc
Làm việc tại chỗ trong các team ML và kỹ thuật của khách hàng: Hiểu rõ hoạt động kinh doanh, dữ liệu, model stack và các ràng buộc vận hành của khách hàng. Chuyển những mục tiêu còn mơ hồ thành chuẩn đánh giá đo lường được và kế hoạch kỹ thuật cho workstream của bạn, chẳng hạn như chọn mô hình, hướng tùy biến và kiến trúc serving. Yêu cầu đi công tác tối đa 25% thời gian.
Tùy biến và post-train mô hình. Điều chỉnh các mô hình open-weight và foundation model cho phù hợp với lĩnh vực của khách hàng thông qua continued pre-training, supervised fine-tuning, preference optimization và reinforcement learning (bao gồm RLHF, RL with verifiable rewards và multi-turn agentic RL). Xây dựng các data pipeline, quy trình sinh dữ liệu tổng hợp và evaluation harness để chứng minh mô hình đã tùy biến vượt trội hơn baseline theo chính chuẩn chất lượng, độ trễ và chi phí của khách hàng. Áp dụng các kỹ thuật này vào những mẫu bài toán giá trị cao như coding agent, domain foundation model và multi-adapter serving.
Xây dựng hệ thống huấn luyện và inference quy mô lớn. Thiết kế và triển khai các pipeline huấn luyện phân tán và RL post-training bằng các framework như PyTorch FSDP2, Megatron-LM, Miles và verl. Xây dựng các RL interaction harness bằng NeMo Gym hoặc OpenEnv để kết nối workflow của agent, công cụ, môi trường và hàm phần thưởng với quá trình huấn luyện. Phát triển các inference stack production với những engine như SGLang và vLLM, đồng thời tối ưu thông lượng, độ trễ, mức sử dụng bộ nhớ và chi phí trên mỗi token thông qua quantization, parallelism, speculative decoding và batching.
Tối ưu mô hình trên chip của AWS. Di chuyển và tinh chỉnh các workload huấn luyện và inference cho AWS Trainium bằng AWS Neuron SDK. Profile hiệu năng, thu hẹp khoảng cách về độ chính xác so với baseline trên GPU và phát triển custom kernel khi cần. Benchmark nghiêm ngặt và biến kết quả thành những quyết định mà khách hàng có thể hành động ngay.
Nhân rộng tác động vượt ra ngoài phạm vi dự án. Đúc kết thành các fine-tuning recipe, evaluation framework, công cụ benchmark và mẫu tối ưu hóa có thể tái sử dụng, giúp đẩy nhanh các lần triển khai sau. Chuyển những bài học thực tế từ hiện trường về các team dịch vụ của AWS, bao gồm Amazon Bedrock, Amazon SageMaker AI và AWS Neuron. Nhận diện cơ hội mở rộng việc tùy biến và tối ưu hóa mô hình trong chính dự án của bạn với khách hàng.
Về team
VỀ AWS
Đa dạng kinh nghiệm
Amazon coi trọng những kinh nghiệm đa dạng. Ngay cả khi bạn chưa đáp ứng hết các yêu cầu và kỹ năng ưu tiên nêu trong mô tả công việc, chúng tôi vẫn khuyến khích bạn ứng tuyển. Nếu sự nghiệp của bạn mới bắt đầu, không đi theo lộ trình truyền thống hoặc bao gồm những trải nghiệm khác biệt, đừng để điều đó ngăn bạn ứng tuyển.
Vì sao chọn AWS
Amazon Web Services (AWS) là nền tảng đám mây toàn diện nhất và được áp dụng rộng rãi nhất trên thế giới. Chúng tôi là những người tiên phong của điện toán đám mây và chưa bao giờ ngừng đổi mới — đó là lý do khách hàng, từ các startup thành công nhất đến các tập đoàn thuộc Global 500, tin tưởng bộ sản phẩm và dịch vụ vững chắc của chúng tôi để vận hành doanh nghiệp của họ.
Cân bằng công việc và cuộc sống
Chúng tôi coi trọng sự hài hòa giữa công việc và cuộc sống. Thành công trong công việc không bao giờ nên đánh đổi bằng những hy sinh ở gia đình, vì vậy chúng tôi nỗ lực mang lại sự linh hoạt như một phần của văn hóa làm việc. Khi cảm thấy được hỗ trợ cả ở nơi làm việc lẫn ở nhà, chẳng có gì chúng ta không thể đạt được trên đám mây.
Văn hóa team hòa nhập
AWS đề cao sự tò mò và kết nối. Các nhóm affinity do nhân viên dẫn dắt và được công ty tài trợ của chúng tôi thúc đẩy sự hòa nhập và giúp mọi người tự hào về những điều làm nên nét riêng của mình. Các sự kiện về hòa nhập giúp xây dựng những team gắn kết và hợp tác tốt hơn. Sự đổi mới không ngừng của chúng tôi được thúc đẩy bởi những ý tưởng táo bạo, góc nhìn mới mẻ và tiếng nói đầy nhiệt huyết mà các team mang vào mọi việc mình làm.
Cố vấn và phát triển sự nghiệp
Chúng tôi không ngừng nâng cao chuẩn hiệu suất để hướng tới mục tiêu trở thành Earth's Best Employer. Vì vậy, bạn sẽ có vô số cơ hội chia sẻ kiến thức, được mentor kèm cặp cùng nhiều nguồn lực thúc đẩy sự nghiệp khác để phát triển thành một chuyên gia toàn diện hơn.
Team
Team Custom Model and Optimization, thuộc team Forward Deployed Engineering, hợp tác với các doanh nghiệp, startup AI-native và các nhà cung cấp foundation model để xây dựng, tùy biến và tối ưu các mô hình generative AI ở quy mô lớn. Công việc của chúng tôi trải rộng từ domain foundation model, post-training các mô hình open-weight, đến việc chuyển các workload huấn luyện và inference sang AWS Trainium. Là những kỹ sư làm việc tại chỗ trong mô hình Forward Deployed Engineering của AWS, chúng tôi mang chuyên môn sâu về mô hình và tối ưu hóa đến những workload AI mang tính chiến lược nhất của khách hàng, đồng thời biến những gì học được thành công cụ và mẫu giải pháp có thể nhân rộng trên toàn AWS.
10047
Yêu cầu cơ bản
- Có hơn 3 năm kinh nghiệm phát triển phần mềm chuyên nghiệp, không tính thực tập
- Có hơn 2 năm kinh nghiệm thiết kế hoặc kiến trúc (design pattern, độ tin cậy và khả năng mở rộng) cho các hệ thống mới và hiện có, không tính thực tập
- Có kinh nghiệm lập trình với ít nhất một ngôn ngữ lập trình
- Có kinh nghiệm thực hành với công nghệ generative AI, chẳng hạn như LLM, mô hình vision-language hoặc mô hình speech
Yêu cầu ưu tiên
- Có bằng cử nhân ngành khoa học máy tính hoặc tương đương
- Có kinh nghiệm huấn luyện phân tán quy mô lớn các LLM trên cụm accelerator nhiều node, sử dụng các framework như PyTorch FSDP2, TorchTitan, Megatron-LM/Megatron Core, NeMo, DeepSpeed hoặc NeuronX Distributed
- Có kinh nghiệm post-training LLM, bao gồm SFT, DPO, RLHF và RL with verifiable rewards hoặc multi-turn agentic RL, sử dụng các framework như Miles, slime, verl, NeMo-RL, OpenRLHF, SkyRL hoặc TRL
- Có kinh nghiệm tối ưu việc huấn luyện hoặc inference mô hình về độ trễ, thông lượng hoặc chi phí, sử dụng các serving engine như SGLang, vLLM hoặc TensorRT-LLM, trên AWS Trainium hoặc Inferentia (Neuron SDK), trên các dịch vụ AWS như SageMaker AI, SageMaker HyperPod hoặc EKS, hoặc bằng cách viết custom kernel (CUDA, Triton, NKI)
- Có kinh nghiệm triển khai và vận hành các mô hình ML trong môi trường production của khách hàng, làm việc cùng các team xây dựng và mở rộng hệ thống production end-to-end
Amazon là nhà tuyển dụng bình đẳng cơ hội và không phân biệt đối xử dựa trên tình trạng cựu chiến binh được pháp luật bảo vệ, tình trạng khuyết tật hoặc các tình trạng khác được pháp luật bảo vệ.
Văn hóa hòa nhập của chúng tôi giúp các Amazonian tạo ra kết quả tốt nhất cho khách hàng. Nếu bạn khuyết tật và cần hỗ trợ hoặc điều chỉnh về nơi làm việc trong quá trình ứng tuyển và tuyển dụng, bao gồm hỗ trợ cho buổi phỏng vấn hoặc quá trình onboarding, vui lòng truy cập https://amazon.jobs/content/en/how-we-hire/accommodations để biết thêm thông tin. Nếu quốc gia/khu vực bạn đang ứng tuyển không có trong danh sách, vui lòng liên hệ Recruiting Partner của bạn.
Mức lương cơ bản cho vị trí này được nêu bên dưới. Gói đãi ngộ tại Amazon của bạn sẽ bao gồm các khoản thưởng ký hợp đồng (sign-on) và cổ phiếu thưởng hạn chế (RSU). Mức thu nhập cuối cùng sẽ được xác định dựa trên các yếu tố như kinh nghiệm, trình độ và địa điểm làm việc. Amazon cũng cung cấp chế độ phúc lợi toàn diện, bao gồm bảo hiểm sức khỏe (y tế, nha khoa, nhãn khoa, thuốc kê đơn, bảo hiểm nhân thọ cơ bản và AD&D cùng tùy chọn các gói bảo hiểm nhân thọ bổ sung, EAP, hỗ trợ sức khỏe tinh thần, đường dây tư vấn y tế, tài khoản chi tiêu linh hoạt, chi trả cho việc nhận con nuôi và mang thai hộ), 401(k) matching, nghỉ có lương và nghỉ chăm con. Tìm hiểu thêm về phúc lợi của chúng tôi tại https://amazon.jobs/en/benefits.