Dữ liệu FDE TimesViệc làm FDE đang mở 924▲33 Thay đổi số việc đang mở trong 7 ngày, so sánh cùng phạm vi: không tính việc của các công ty mới được theo dõi tuần nàyMới trong 7 ngày 80Công ty đang tuyển 196Nhận làm từ xa 25%Lương trung vị (Mỹ) $200kTuyển nhiều nhất Databricks 107
中文EN

Tờ báo của nghề Forward Deployed Engineer

Logo Baseten
Baseten

Forward Deployed Engineer (Training)

San FranciscoRemoteĐang tuyển · cập nhật

Mô tả công việc

FDE Times dịch từ tin tuyển dụng gốc bằng tiếng Anh.

GIỚI THIỆU VỀ BASETEN

Baseten vận hành hạ tầng inference cho những hệ thống trọng yếu của các công ty AI năng động nhất thế giới, như Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma và Writer. Bằng cách kết hợp nghiên cứu AI ứng dụng, hạ tầng linh hoạt và công cụ dành cho developer liền mạch, chúng tôi giúp các công ty đang đứng ở tuyến đầu của AI đưa những mô hình tiên tiến nhất vào môi trường production. Chúng tôi đang tăng trưởng nhanh và vừa gọi vốn thành công vòng Series F trị giá $1.5B, do Altimeter Capital, Conviction Partners và Spark Capital dẫn dắt. Hãy gia nhập để cùng xây dựng nền tảng mà các kỹ sư tin dùng để đưa sản phẩm AI ra thị trường.

VỀ VAI TRÒ

Các Forward Deployed Engineer làm việc trực tiếp với những công ty AI lớn nhất và tăng trưởng nhanh nhất thế giới, chịu trách nhiệm về kết quả kỹ thuật của họ trên Baseten và xử lý những bài toán khó nhất trong việc vận hành và cải thiện mô hình ở quy mô lớn. Công việc trải dài trong toàn bộ vòng đời của mô hình: inference, post-training và các hệ thống giúp rút ngắn vòng lặp giữa hai khâu này.

  • Đóng vai trò CTO trên thực tế của từng khách hàng trên Baseten, chịu trách nhiệm cuối cùng về cách khối lượng công việc của họ được thiết kế, vận hành và mở rộng.
  • Đưa mục tiêu của khách hàng từ mơ hồ đến khi ra mắt: xác định rõ vấn đề, đặt ra đặc tả và tiêu chí thành công, xây dựng PoC, rồi nhanh chóng đưa lên production, sử dụng công cụ phù hợp với từng bài toán.
  • Thiết kế các bộ eval và benchmark để chỉ ra chính xác chất lượng hoặc hiệu năng đang thiếu ở đâu, sau đó tự mình thu hẹp khoảng cách đó, dù là bằng cách tối ưu inference, cải thiện mô hình thông qua post-training hay thiết kế lại chính bộ eval.
  • Là người phản ứng đầu tiên trước các sự cố trọng yếu, bao gồm phân loại sự cố (triage), trực tiếp xử lý hoặc chuyển cho đội phụ trách rồi theo sát cho đến khi bản sửa được triển khai.
  • Xây dựng các hệ thống nội bộ để mỗi dự án triển khai sau nhanh hơn dự án trước. Việc này bao gồm công cụ và tự động hóa cho hạ tầng eval và deployment, cùng các recipe và bản triển khai tham chiếu giúp sản phẩm dễ tự sử dụng hơn.
  • Định hình chính sản phẩm: đưa nhu cầu của các khách hàng mình phụ trách vào roadmap, đồng thời tự mình đóng góp các bản sửa lỗi và tính năng mới vào codebase của Baseten.
  • Làm tất cả những việc trên cho nhiều khách hàng cùng lúc: sắp xếp thứ tự công việc, huy động đúng người vào đúng thời điểm, và giữ cho khách hàng cũng như các bên liên quan nội bộ luôn nắm cùng một thông tin về tiến độ và rủi ro.

YÊU CẦU

  • Tối thiểu 1-2 năm kinh nghiệm software engineering, từng triển khai và duy trì code trong các hệ thống production lớn, tốt nhất là có hiểu biết rộng trên nhiều tầng của stack
  • Có kinh nghiệm debug các sự cố phức tạp trên production: lần theo log, metric và trace để tìm nguyên nhân gốc rễ trong những hệ thống còn xa lạ
  • Tự tin đảm nhận các vấn đề kỹ thuật chưa rõ ràng, bao gồm phân loại sự cố, đưa ra quyết định khi còn nhiều điều chưa chắc chắn, và biết lúc nào cần nhờ các kỹ sư phụ trách hệ thống nền tảng vào cuộc
  • Có động lực vượt ra ngoài kỹ thuật thuần túy: muốn làm việc trực tiếp với khách hàng, hiểu vấn đề của họ từ chính nguồn, và tác động đến sản phẩm
  • Giao tiếp rõ ràng về các chủ đề kỹ thuật phức tạp, dù đối tượng là kỹ sư hay ban lãnh đạo của khách hàng
  • Thực sự tò mò về inference và training của AI, và quyết tâm trở thành chuyên gia về hạ tầng vận hành chúng
  • Sẵn sàng phản hồi khách hàng ngoài giờ làm việc thông thường và tham gia lịch trực on-call
  • Hào hứng với việc giải quyết vấn đề cho một số công ty lớn nhất và tăng trưởng nhanh nhất thế giới đang chạy các workload AI trọng yếu

ĐIỀU BẠN SẼ MANG ĐẾN

Chúng tôi không kỳ vọng một người phải đáp ứng tất cả những điều này. Những ứng viên xuất sắc nhất có thể nổi trội ở một hoặc hai mảng sau:

  • Chuyên môn sâu trong một mảng hạ tầng cốt lõi như hệ thống lưu trữ hoặc mạng (từ tầng cloud đến các kết nối liên cụm như InfiniBand và RoCE)
  • Kinh nghiệm vận hành các nền tảng tính toán phân tán như Kubernetes, Slurm hoặc Ray, đặc biệt cho workload GPU
  • Hiểu biết chi tiết về kiến trúc LLM và các inference engine hiện đại như vLLM, TensorRT-LLM hoặc SGLang
  • Khả năng profile và tối ưu các workload GPU, trong training hoặc serving
  • Kinh nghiệm thực tế với các kỹ thuật post-training như SFT và RL, hoặc nền tảng deep learning rộng hơn cùng khả năng sử dụng thành thạo một thư viện tính toán tensor như PyTorch hoặc JAX
  • Chiều sâu về vận hành: từng trực on-call, chỉ huy xử lý sự cố, debug hệ thống phân tán trong điều kiện áp lực

QUYỀN LỢI

  • Mức đãi ngộ cạnh tranh, bao gồm cổ phần có giá trị đáng kể
  • (Chỉ áp dụng tại Mỹ) Chi trả 100% bảo hiểm y tế, nha khoa và thị lực cho nhân viên và người phụ thuộc
  • Chính sách nghỉ phép có lương linh hoạt, cùng kỳ nghỉ đông toàn công ty (văn phòng đóng cửa từ Christmas Eve đến New Year's Day!)
  • Nghỉ thai sản và nghỉ chăm con có lương
  • Hỗ trợ tài chính cho điều trị hiếm muộn và xây dựng gia đình thông qua Carrot
  • (Chỉ áp dụng tại Mỹ) Chương trình 401(k) do công ty hỗ trợ
  • Cơ hội tiếp xúc với nhiều startup ML khác nhau, mang lại môi trường học hỏi và kết nối vô cùng quý giá.

Hãy ứng tuyển ngay để bắt đầu một hành trình đáng giá trong việc định hình tương lai của AI! Nếu bạn là người có động lực, đam mê machine learning và mong muốn trở thành một phần của đội ngũ hợp tác, tư duy hướng tới tương lai, chúng tôi rất mong được nghe từ bạn.

Tại Baseten, chúng tôi cam kết xây dựng một môi trường làm việc đa dạng và hòa nhập. Chúng tôi cung cấp cơ hội việc làm bình đẳng cho tất cả nhân viên và ứng viên, không phân biệt chủng tộc, màu da, tôn giáo, giới tính, xu hướng tính dục, bản dạng hoặc biểu hiện giới, nguồn gốc quốc gia, độ tuổi, thông tin di truyền, tình trạng khuyết tật hay tình trạng cựu chiến binh.

Chúng tôi là nhà tuyển dụng đảm bảo cơ hội bình đẳng (Equal Opportunity Employer) và sẽ xem xét các ứng viên đủ điều kiện có tiền án, tiền sự theo cách phù hợp với quy định pháp luật hiện hành (ví dụ, các yêu cầu của San Francisco Fair Chance Ordinance, khi được áp dụng).

Xem tin gốc

Forward Deployed Engineer (Training)

ABOUT BASETEN

Baseten powers mission-critical inference for the world's most dynamic AI companies, like Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma, and Writer. By uniting applied AI research, flexible infrastructure, and seamless developer tooling, we enable companies operating at the frontier of AI to bring cutting-edge models into production. We're growing quickly and recently raised our $1.5B Series F, led by Altimeter Capital, Conviction Partners, and Spark Capital. Join us and help build the platform engineers turn to ship AI products.

THE ROLE

Forward Deployed Engineers work directly with the largest and fastest-growing AI companies in the world, owning their technical outcomes on Baseten and taking on the hardest problems in serving and improving models at scale. The work spans the model lifecycle: inference, post-training, and the systems that tighten the loop between them.

  • Act as each account's de facto CTO on Baseten, with final accountability for how their workloads are designed, run, and scaled.
  • Take customer objectives from vague to shipped: frame the problem, define the spec and success criteria, build the PoC, and carry it through to production quickly, using the right tools for the problem.
  • Design the evals and benchmarks that isolate where quality or performance falls short, then close the gap yourself, whether that means optimizing inference, improving the model through post-training, or reworking the eval itself.
  • Be the first responder to mission-critical failures including triage, owning the fix directly or route to the owning team and stay accountable until it ships.
  • Build internal systems so that each engagement is faster than the last. This includes tooling and automation for eval and deployment infrastructure, and the recipes and reference implementations that make the product more self-serve.
  • Shape the product itself, channeling what your accounts need into the roadmap and shipping fixes and features into Baseten's codebase yourself.
  • Do all of this across multiple accounts at once, sequencing the work, pulling in the right people at the right time, and keeping customers and internal stakeholders aligned on status and risk.

REQUIREMENTS

  • Minimum 1-2 years of software engineering experience, shipping and maintaining code in large production systems, ideally with breadth across the stack
  • Experience debugging complex production issues - working through logs, metrics, and traces to root-cause problems in unfamiliar systems
  • Confidence owning ambiguous technical problems. This includes triaging, making decisions under uncertainty, and knowing when to pull in other engineers who own the underlying systems
  • Motivation beyond pure engineering. An interest in wanting to work directly with customers, understand their problems firsthand, and influence the product
  • Clear communication on complex technical topics, whether you're talking to a customer's engineers or their leadership
  • Genuine curiosity about AI inference and training, and a drive to become an expert in the infrastructure powering it
  • Willingness to respond to customers outside regular working hours and participate in an on-call rotation
  • Excitement about solving problems for some of the largest and fastest-growing companies in the world running mission-critical AI workloads

WHAT YOU'LL BRING

We don't expect any one person to cover all of this - the strongest candidates may spike in one or two of the following:

  • Depth in a core infrastructure domain such as storage systems or networking (anywhere from the cloud layer to cluster interconnects like InfiniBand and RoCE)
  • Experience operating distributed compute platforms like Kubernetes, Slurm, or Ray, especially for GPU workloads
  • A detailed understanding of LLM architectures and modern inference engines like vLLM, TensorRT-LLM, or SGLang
  • The ability to profile and optimize GPU workloads, in training or serving
  • Hands-on experience with post-training techniques like SFT and RL, or a broader deep learning background plus fluency in a tensor computation library like PyTorch or JAX
  • Operational depth - running on-call, leading incident response, debugging distributed systems under pressure

BENEFITS

  • Competitive compensation, including meaningful equity
  • (U.S. only) 100% coverage of medical, dental, and vision insurance for employee and dependents
  • Flexible PTO policy including company wide Winter Break (our offices are closed from Christmas Eve to New Year's Day!)
  • Paid parental leave
  • Fertility and family-building stipend through Carrot
  • (U.S. only) Company-facilitated 401(k)
  • Exposure to a variety of ML startups, offering unparalleled learning and networking opportunities.

Apply now to embark on a rewarding journey in shaping the future of AI! If you are a motivated individual with a passion for machine learning and a desire to be part of a collaborative and forward-thinking team, we would love to hear from you.

At Baseten, we are committed to fostering a diverse and inclusive workplace. We provide equal employment opportunities to all employees and applicants without regard to race, color, religion, gender, sexual orientation, gender identity or expression, national origin, age, genetic information, disability, or veteran status.

We are an Equal Opportunity Employer and will consider qualified applicants with criminal histories in a manner consistent with applicable law (by example, the requirements of the San Francisco Fair Chance Ordinance, where applicable).

Gửi CV ứng tuyển