Amazon (AWS)

Senior Forward Deployed Engineer (Tùy biến và Tối ưu hóa Mô hình)

Seattle, Washington, USANơi khácĐang tuyển · cập nhật 10/11/2026

Mô tả công việc

FDE Times dịch từ tin tuyển dụng gốc bằng tiếng Anh.

Với vai trò Senior Forward Deployed Engineer (Senior FDE) thuộc team Custom Model and Optimization, bạn là technical lead làm việc trực tiếp tại một khách hàng chiến lược, chịu trách nhiệm xây dựng, tối ưu và vận hành các mô hình generative AI tùy biến nằm ở cốt lõi hoạt động kinh doanh của họ. Bạn định hướng kỹ thuật cho các dự án tùy biến và tối ưu hóa mô hình, quyết định cần xây dựng gì, đo lường ra sao và đưa lên production bằng cách nào. Bạn kết hợp chiều sâu kỹ thuật của một senior engineer tại AWS với tinh thần khẩn trương của người làm startup, vận dụng khả năng phán đoán và tinh thần làm chủ để mang lại kết quả kinh doanh đo lường được về chất lượng, độ trễ và chi phí.

Các Senior FDE xử lý những bài toán khó nhất ở giao điểm giữa mô hình và hệ thống: xây dựng domain foundation model, post-training các mô hình open-weight quy mô frontier bằng reinforcement learning, và di chuyển các workload huấn luyện và suy luận quy mô lớn sang AWS Trainium. Họ nhận những bài toán mà chính vấn đề kinh doanh cũng còn chưa rõ ràng, tự xác định hướng tiếp cận và chia nhỏ thành các workstream để người khác có thể đảm nhận. Họ đưa ra các đánh đổi kiến trúc dài hạn, cân bằng giữa sự gấp rút của khách hàng và thiết kế bền vững, đồng thời được lãnh đạo kỹ thuật phía khách hàng tin tưởng như một đồng nghiệp ngang tầm về chuyên môn. Họ nâng chuẩn của cả team thông qua design review, code review, mentoring và tuyển dụng, và góp phần định hình cách AWS xây dựng sản phẩm.

Trách nhiệm chính của vị trí

Dẫn dắt dự án về mặt kỹ thuật: Làm việc trực tiếp tại khách hàng với vai trò technical lead của chương trình tùy biến và tối ưu hóa mô hình, bao gồm nhiều workstream. Phối hợp với lãnh đạo kỹ thuật và lãnh đạo sản phẩm của khách hàng để định hình bài toán kinh doanh, xác định chỉ số thành công và chuẩn đánh giá, đồng thời xây dựng lộ trình kỹ thuật đi từ proof of value đến production. Trao đổi rõ ràng các đánh đổi, rủi ro và kết quả với cả lãnh đạo cấp cao lẫn kỹ sư. Yêu cầu đi công tác tối đa 25% thời gian.

Xác định chiến lược tùy biến: Chọn con đường phù hợp để đạt mục tiêu về chất lượng, độ trễ và chi phí của khách hàng — prompting, distillation, supervised fine-tuning, preference optimization, reinforcement learning (bao gồm RL with verifiable rewards và multi-turn agentic RL), continued pre-training, task-specific adapter, hoặc xây dựng một domain foundation model. Chịu trách nhiệm về chiến lược dữ liệu, việc tạo dữ liệu tổng hợp và phương pháp đánh giá để các quyết định đó có cơ sở vững chắc, rồi đưa chúng vào production cho các mô hình triển khai như coding agent, vertical foundation model và multi-adapter serving.

Thiết kế kiến trúc hệ thống huấn luyện và suy luận ở quy mô lớn: Thiết kế các hệ thống huấn luyện phân tán và RL post-training cho các mô hình dense và mixture-of-experts cỡ lớn, sử dụng các framework như PyTorch FSDP2, Megatron-LM, Miles và verl, cùng kiến trúc suy luận production dùng các engine như SGLang và vLLM. Thiết kế kiến trúc cho các RL interaction harness bằng những framework như NeMo Gym và OpenEnv, xác định cách agent workflow, tool, môi trường và reward function kết nối với quá trình huấn luyện và đánh giá. Thiết lập chiến lược parallelism, độ chính xác số học (precision) và serving nhằm cân bằng giữa throughput, độ trễ, bộ nhớ, độ tin cậy và chi phí trên mỗi token, đồng thời bảo đảm các thiết kế vận hành ổn định dưới tải production.

Dẫn dắt tối ưu hóa trên chip AI của AWS: Dẫn dắt việc di chuyển các workload huấn luyện và suy luận sang AWS Trainium bằng AWS Neuron SDK. Chẩn đoán các chênh lệch về hiệu năng và độ chính xác (accuracy parity) so với baseline trên GPU, chỉ đạo tối ưu hóa ở mức kernel ở những chỗ thực sự cần thiết, và phối hợp với các team AWS Neuron và team dịch vụ để lấp các khoảng trống về năng lực. Biến kết quả benchmark thành những khuyến nghị định hình các quyết định về hạ tầng và dung lượng của khách hàng.

Dẫn dắt, mentoring và nâng chuẩn: Đảm nhận vai trò lãnh đạo kỹ thuật cho một nhóm FDE và scientist trong dự án, chia các bài toán còn mơ hồ thành những workstream có phạm vi rõ ràng và gỡ vướng cho đồng đội. Mentor các FDE II về thiết kế hệ thống mô hình và trách nhiệm làm chủ trên production. Chủ trì design review, thực hiện code review với tư duy phán đoán cao, và tích cực tham gia tuyển dụng, phỏng vấn.

Nhân rộng tác động trên toàn AWS: Nhận diện các pattern lặp lại giữa các dự án và biến chúng thành những fine-tuning recipe, evaluation framework, công cụ benchmark và reference architecture có thể tái sử dụng, được các team khác áp dụng. Tác động đến lộ trình của các dịch vụ AWS, bao gồm Amazon Bedrock, Amazon SageMaker AI và AWS Neuron, bằng bằng chứng thực tế từ hiện trường. Nhận diện và định hình các cơ hội mở rộng việc tùy biến và tối ưu hóa mô hình tại chính khách hàng của bạn và ở những khách hàng tương tự.

Giám sát việc triển khai dự án: Chịu trách nhiệm về kế hoạch triển khai, đặt các mốc, theo dõi tiến độ so với deadline, và bảo đảm chất lượng cũng như tính đầy đủ của mọi sản phẩm bàn giao. Cùng team chịu trách nhiệm với những cam kết đã đưa ra cho khách hàng, báo cáo rủi ro sớm, và điều chỉnh phạm vi hoặc nguồn lực khi tiến độ có nguy cơ bị chậm.

Về team

VỀ AWS

Đề cao trải nghiệm đa dạng

Amazon coi trọng những trải nghiệm đa dạng. Ngay cả khi bạn chưa đáp ứng toàn bộ các yêu cầu ưu tiên và kỹ năng nêu trong mô tả công việc, chúng tôi vẫn khuyến khích bạn ứng tuyển. Nếu sự nghiệp của bạn mới bắt đầu, không đi theo lộ trình truyền thống hoặc bao gồm những trải nghiệm khác biệt, đừng để điều đó ngăn bạn nộp hồ sơ.

Vì sao chọn AWS

Amazon Web Services (AWS) là nền tảng đám mây toàn diện và được áp dụng rộng rãi nhất thế giới. Chúng tôi là những người tiên phong của điện toán đám mây và chưa bao giờ ngừng đổi mới — đó là lý do các khách hàng, từ những startup thành công nhất đến các tập đoàn thuộc Global 500, tin tưởng bộ sản phẩm và dịch vụ mạnh mẽ của chúng tôi để vận hành doanh nghiệp của mình.

Cân bằng công việc và cuộc sống

Chúng tôi coi trọng sự hài hòa giữa công việc và cuộc sống. Thành công trong công việc không bao giờ nên phải đánh đổi bằng những hy sinh ở gia đình, vì vậy chúng tôi nỗ lực duy trì sự linh hoạt như một phần của văn hóa làm việc. Khi cảm thấy được hỗ trợ ở cả nơi làm việc lẫn ở nhà, không có gì là chúng ta không thể đạt được trên đám mây.

Văn hóa team hòa nhập

AWS coi trọng sự tò mò và kết nối. Các nhóm affinity do nhân viên lập ra và được công ty tài trợ thúc đẩy tinh thần hòa nhập và giúp mọi người tự hào về những điều làm nên nét riêng của mình. Các sự kiện về hòa nhập giúp xây dựng những team gắn kết và cộng tác tốt hơn. Sự đổi mới không ngừng của chúng tôi được nuôi dưỡng bởi những ý tưởng táo bạo, góc nhìn mới mẻ và tiếng nói đầy đam mê mà các team mang đến cho mọi việc mình làm.

Mentoring và phát triển sự nghiệp

Chúng tôi không ngừng nâng cao chuẩn hiệu suất để trở thành Earth's Best Employer. Vì vậy, bạn sẽ có vô vàn cơ hội chia sẻ kiến thức, được mentoring và tiếp cận nhiều nguồn lực khác giúp phát triển sự nghiệp, để trở thành một chuyên gia toàn diện hơn.

Team

Team Custom Models & Optimization, thuộc team AWS Forward Deployed Engineering, hợp tác với các doanh nghiệp, startup AI-native và các nhà cung cấp foundation model để xây dựng, tùy biến và tối ưu hóa các mô hình generative AI ở quy mô lớn. Công việc của chúng tôi bao gồm domain foundation model, post-training các mô hình open-weight, và chuyển hoạt động huấn luyện và suy luận sang AWS Trainium. Là những kỹ sư làm việc trực tiếp tại khách hàng trong mô hình AWS Forward Deployed Engineering, chúng tôi mang chuyên môn sâu về mô hình và tối ưu hóa đến những workload AI mang tính chiến lược nhất của khách hàng, và biến những gì học được thành công cụ và pattern có thể nhân rộng trên toàn AWS.

10047

Basic qualifications

Từ 5 năm kinh nghiệm phát triển phần mềm chuyên nghiệp (không tính thực tập)
Từ 5 năm kinh nghiệm lập trình với ít nhất một ngôn ngữ lập trình
Từ 5 năm kinh nghiệm dẫn dắt thiết kế hoặc kiến trúc (design pattern, độ tin cậy và khả năng mở rộng) của các hệ thống mới và hiện có
Có kinh nghiệm làm mentor, tech lead hoặc dẫn dắt một team kỹ thuật
Có kinh nghiệm thực hành huấn luyện, fine-tuning hoặc tối ưu hóa các mô hình deep learning
Có kinh nghiệm truyền đạt các khái niệm kỹ thuật cho cả đối tượng kỹ thuật lẫn phi kỹ thuật, bao gồm lãnh đạo cấp cao

Preferred qualifications

Cử nhân khoa học máy tính hoặc tương đương
Từ 2 năm kinh nghiệm triển khai và vận hành các mô hình ML trong môi trường production của khách hàng, làm việc với các team xây dựng và mở rộng hệ thống production end-to-end
Có kinh nghiệm xác định chiến lược đánh giá và xây dựng evaluation framework hoặc benchmark cho các mô hình generative
Có kinh nghiệm dẫn dắt việc tối ưu hóa huấn luyện hoặc suy luận của mô hình về độ trễ, throughput hoặc chi phí, sử dụng các serving engine như SGLang, vLLM hoặc TensorRT-LLM, trên AWS Trainium (Neuron SDK), trên các dịch vụ AWS như SageMaker AI, SageMaker HyperPod hoặc EKS, hoặc bằng cách viết custom kernel (CUDA, Triton, NKI)
Có kinh nghiệm dẫn dắt các nỗ lực post-training LLM, bao gồm SFT, DPO, RLHF, RL with verifiable rewards hoặc multi-turn agentic RL, sử dụng các framework như Miles, slime, verl, NeMo-RL, OpenRLHF, SkyRL hoặc TRL
Có kinh nghiệm dẫn dắt huấn luyện phân tán quy mô lớn cho LLM, bao gồm các mô hình mixture-of-experts, trên các cụm accelerator nhiều node, sử dụng các framework như PyTorch FSDP2, TorchTitan, Megatron-LM/Megatron Core, NeMo, DeepSpeed hoặc NeuronX Distributed

Amazon là nhà tuyển dụng bình đẳng cơ hội và không phân biệt đối xử dựa trên tình trạng cựu chiến binh được bảo vệ, tình trạng khuyết tật hoặc các tình trạng khác được pháp luật bảo vệ.

Ứng viên tại Los Angeles County: Nhiệm vụ của vị trí này bao gồm: làm việc an toàn và hợp tác với các nhân viên, người giám sát và đội ngũ khác; tuân thủ các tiêu chuẩn xuất sắc ngay cả trong điều kiện áp lực; giao tiếp hiệu quả và tôn trọng với nhân viên, người giám sát và đội ngũ khác để bảo đảm dịch vụ khách hàng xuất sắc; và tuân thủ mọi quy định pháp luật của liên bang, tiểu bang và địa phương cũng như các chính sách của Công ty. Tiền sử hình sự có thể có mối liên hệ trực tiếp, bất lợi và tiêu cực với một số nhiệm vụ quan trọng của vị trí này. Các nhiệm vụ đó bao gồm những nhiệm vụ và trách nhiệm nêu trên, cũng như khả năng tuân thủ chính sách của công ty, đưa ra phán đoán đúng đắn, kiểm soát căng thẳng hiệu quả và làm việc an toàn, tôn trọng với người khác, thể hiện sự đáng tin cậy và tính chuyên nghiệp, đồng thời bảo vệ hoạt động kinh doanh và uy tín của Công ty. Theo Los Angeles County Fair Chance Ordinance, chúng tôi sẽ xem xét tuyển dụng các ứng viên đủ điều kiện có tiền sử bị bắt giữ và kết án.

Văn hóa hòa nhập của chúng tôi giúp những người Amazon mang lại kết quả tốt nhất cho khách hàng. Nếu bạn khuyết tật và cần hỗ trợ hoặc điều chỉnh tại nơi làm việc trong quá trình ứng tuyển và tuyển dụng, bao gồm hỗ trợ trong quá trình phỏng vấn hoặc onboarding, vui lòng truy cập https://amazon.jobs/content/en/how-we-hire/accommodations để biết thêm thông tin. Nếu quốc gia/khu vực bạn đang ứng tuyển không có trong danh sách, vui lòng liên hệ Recruiting Partner của bạn.

Mức lương cơ bản cho vị trí này được nêu dưới đây. Gói đãi ngộ của bạn tại Amazon sẽ bao gồm các khoản sign-on và restricted stock unit (RSU). Mức đãi ngộ cuối cùng sẽ được xác định dựa trên các yếu tố như kinh nghiệm, trình độ và địa điểm làm việc. Amazon cũng cung cấp chế độ phúc lợi toàn diện, bao gồm bảo hiểm sức khỏe (y tế, nha khoa, thị lực, thuốc kê đơn, bảo hiểm nhân thọ cơ bản và AD&D, cùng tùy chọn các gói bảo hiểm nhân thọ bổ sung, EAP, hỗ trợ sức khỏe tinh thần, đường dây tư vấn y tế, tài khoản chi tiêu linh hoạt, chi trả cho việc nhận con nuôi và mang thai hộ), đóng góp đối ứng 401(k), nghỉ có lương và nghỉ thai sản/chăm con. Tìm hiểu thêm về phúc lợi của chúng tôi tại https://amazon.jobs/en/benefits.

USA, MA, Boston - 168,100.00 - 227,400.00 USD mỗi năm

USA, NY, New York - 184,900.00 - 250,200.00 USD mỗi năm

USA, VA, Arlington - 168,100.00 - 227,400.00 USD mỗi năm

USA, WA, Seattle - 168,100.00 - 227,400.00 USD mỗi năm

Xem tin gốc

Senior Forward Deployed Engineer (Model Customization and Optimization)

As a Senior Forward Deployed Engineer (Senior FDE) on the Custom Model and Optimization team, you are the technical lead embedded inside a strategic customer, accountable for building, optimizing, and running the custom generative AI models at the heart of their business. You set the technical direction for model customization and optimization engagements, deciding what to build, how to measure it, and how it reaches production. You combine the technical depth of an AWS senior engineer with the urgency of a startup builder, using your judgment and ownership to deliver measurable business outcomes in quality, latency, and cost.

Senior FDEs work on the hardest problems where models meet systems: building domain foundation models, post-training frontier-scale open-weight models with reinforcement learning, and migrating large training and inference workloads onto AWS Trainium. They take on problems where the business problem itself is ambiguous, define the approach, and break it into workstreams others can own. They make long-term architectural trade-offs, balance customer urgency against sustainable design, and are trusted by customer engineering leadership as a technical peer. They raise the bar for the team through design reviews, code reviews, mentorship, and hiring, and they shape how AWS builds.

Key job responsibilities

Lead the technical engagement: Embed with the customer as the technical lead for their model customization and optimization program, spanning multiple workstreams. Partner with customer engineering and product leadership to frame the business problem, define success metrics and the evaluation bar, and set technical roadmap that moves from proof of value to production. Communicate trade-offs, risks, and results clearly to executives and engineers alike. Requires up to 25% travel.

Define the customization strategy: Decide the right path to the customer's quality, latency, and cost targets — prompting, distillation, supervised fine-tuning, preference optimization, reinforcement learning (including RL with verifiable rewards and multi-turn agentic RL), continued pre-training, task-specific adapters, or building a domain foundation model. Own the data strategy, synthetic data generation, and evaluation methodology that make those decisions defensible, and drive them to production for patterns such as coding agents, vertical foundation models, and multi-adapter serving.

Architect training and inference systems at scale: Design distributed training and RL post-training systems for large dense and mixture-of-experts models using frameworks such as PyTorch FSDP2, Megatron-LM, Miles, and verl, and production inference architectures using engines such as SGLang and vLLM. Architect RL interaction harnesses using frameworks such as NeMo Gym and OpenEnv, defining how agent workflows, tools, environments, and reward functions connect to training and evaluation. Set parallelism, precision, and serving strategies that balance throughput, latency, memory, reliability, and cost per token, and ensure the designs hold up under production load.

Lead optimization on AWS AI chips: Lead migrations of training and inference workloads to AWS Trainium using the AWS Neuron SDK. Diagnose performance and accuracy-parity gaps against GPU baselines, direct kernel-level optimization where it matters, and work with AWS Neuron and service teams to close capability gaps. Turn benchmark evidence into recommendations that shape customer infrastructure and capacity decisions.

Lead, mentor, and raise the bar: Provide technical leadership to a team of FDEs and scientists on the engagement, breaking ambiguous problems into well-scoped workstreams and unblocking others. Mentor FDE IIs on model systems design and production ownership. Lead design reviews, provide high-judgment code review, and actively participate in hiring and interviewing.

Multiply impact across AWS: Identify patterns across engagements and turn them into reusable fine-tuning recipes, evaluation frameworks, benchmarking tools, and reference architectures adopted by other teams. Influence the roadmaps of AWS services, including Amazon Bedrock, Amazon SageMaker AI, and AWS Neuron, with field evidence. Identify and shape opportunities to expand model customization and optimization within your customer and across similar customers.

Oversee engagement execution: Own the delivery plan, set milestones, track progress against deadlines, and ensure the quality and completeness of all deliverables. Hold yourself and the team accountable for commitments made to the customer, escalate risks early, and adjust scope or resources when timelines are at risk.

About the team

ABOUT AWS

Diverse Experiences

Amazon values diverse experiences. Even if you do not meet all of the preferred qualifications and skills listed in the job description, we encourage candidates to apply. If your career is just starting, hasn’t followed a traditional path, or includes alternative experiences, don’t let it stop you from applying.

Why AWS

Amazon Web Services (AWS) is the world’s most comprehensive and broadly adopted cloud platform. We pioneered cloud computing and never stopped innovating — that’s why customers from the most successful startups to Global 500 companies trust our robust suite of products and services to power their businesses.

Work/Life Balance

We value work-life harmony. Achieving success at work should never come at the expense of sacrifices at home, which is why we strive for flexibility as part of our working culture. When we feel supported in the workplace and at home, there’s nothing we can’t achieve in the cloud.

Inclusive Team Culture

AWS values curiosity and connection. Our employee-led and company-sponsored affinity groups promote inclusion and empower our people to take pride in what makes us unique. Our inclusion events foster stronger, more collaborative teams. Our continual innovation is fueled by the bold ideas, fresh perspectives, and passionate voices our teams bring to everything we do.

Mentorship and Career Growth

We’re continuously raising our performance bar as we strive to become Earth’s Best Employer. That’s why you’ll find endless knowledge-sharing, mentorship and other career-advancing resources here to help you develop into a better-rounded professional.

Team

The Custom Models & Optimization team, part of the AWS Forward Deployed Engineering team, partners with enterprises, AI-native startups, and foundation model providers to build, customize, and optimize generative AI models at scale. Our work spans domain foundation models, post-training of open-weight models, and moving training and inference onto AWS Trainium. As embedded engineers within the AWS Forward Deployed Engineering motion, we bring deep model and optimization expertise to customers' most strategic AI workloads, and we turn what we learn into tooling and patterns that scale across AWS.

10047

Basic qualifications

5+ years of non-internship professional software development experience
5+ years of programming with at least one software programming language experience
5+ years of leading design or architecture (design patterns, reliability and scaling) of new and existing systems experience
Experience as a mentor, tech lead or leading an engineering team
Hands-on experience training, fine-tuning, or optimizing deep learning models
Experience communicating technical concepts to both technical and non-technical audiences, including senior leadership

Preferred qualifications

Bachelor's degree in computer science or equivalent
2+ years of experience deploying and operating ML models in customer production environments, working with teams that build and scale end-to-end production systems
Experience defining evaluation strategy and building evaluation frameworks or benchmarks for generative models
Experience leading optimization of model training or inference for latency, throughput, or cost, using serving engines such as SGLang, vLLM, or TensorRT-LLM, on AWS Trainium (Neuron SDK), on AWS services such as SageMaker AI, SageMaker HyperPod, or EKS, or by writing custom kernels (CUDA, Triton, NKI)
Experience leading LLM post-training efforts, including SFT, DPO, RLHF, and RL with verifiable rewards or multi-turn agentic RL, using frameworks such as Miles, slime, verl, NeMo-RL, OpenRLHF, SkyRL, or TRL
Experience leading large-scale distributed training of LLMs, including mixture-of-experts models, on multi-node accelerator clusters, using frameworks such as PyTorch FSDP2, TorchTitan, Megatron-LM/Megatron Core, NeMo, DeepSpeed, or NeuronX Distributed

Amazon is an equal opportunity employer and does not discriminate on the basis of protected veteran status, disability, or other legally protected status.

Los Angeles County applicants: Job duties for this position include: work safely and cooperatively with other employees, supervisors, and staff; adhere to standards of excellence despite stressful conditions; communicate effectively and respectfully with employees, supervisors, and staff to ensure exceptional customer service; and follow all federal, state, and local laws and Company policies. Criminal history may have a direct, adverse, and negative relationship with some of the material job duties of this position. These include the duties and responsibilities listed above, as well as the abilities to adhere to company policies, exercise sound judgment, effectively manage stress and work safely and respectfully with others, exhibit trustworthiness and professionalism, and safeguard business operations and the Company’s reputation. Pursuant to the Los Angeles County Fair Chance Ordinance, we will consider for employment qualified applicants with arrest and conviction records.

Our inclusive culture empowers Amazonians to deliver the best results for our customers. If you have a disability and need a workplace accommodation or adjustment during the application and hiring process, including support for the interview or onboarding process, please visit https://amazon.jobs/content/en/how-we-hire/accommodations for more information. If the country/region you’re applying in isn’t listed, please contact your Recruiting Partner.

The base salary range for this position is listed below. Your Amazon package will include sign-on payments and restricted stock units (RSUs). Final compensation will be determined based on factors including experience, qualifications, and location. Amazon also offers comprehensive benefits including health insurance (medical, dental, vision, prescription, Basic Life & AD&D insurance and option for Supplemental life plans, EAP, Mental Health Support, Medical Advice Line, Flexible Spending Accounts, Adoption and Surrogacy Reimbursement coverage), 401(k) matching, paid time off, and parental leave. Learn more about our benefits at https://amazon.jobs/en/benefits.

USA, MA, Boston - 168,100.00 - 227,400.00 USD annually

USA, NY, New York - 184,900.00 - 250,200.00 USD annually

USA, VA, Arlington - 168,100.00 - 227,400.00 USD annually

USA, WA, Seattle - 168,100.00 - 227,400.00 USD annually

Gửi CV ứng tuyển