Mô tả công việc
FDE Times dịch từ tin tuyển dụng gốc bằng tiếng Anh.
GIỚI THIỆU VỀ BASETEN
Baseten vận hành hạ tầng inference cho những hệ thống trọng yếu của các công ty AI năng động nhất thế giới, như Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma và Writer. Bằng cách kết hợp nghiên cứu AI ứng dụng, hạ tầng linh hoạt và công cụ dành cho developer liền mạch, chúng tôi giúp các công ty đang đứng ở tuyến đầu của AI đưa những mô hình tiên tiến nhất vào môi trường production. Chúng tôi đang tăng trưởng nhanh và vừa gọi vốn thành công vòng Series F trị giá $1.5B, do Altimeter Capital, Conviction Partners và Spark Capital dẫn dắt. Hãy gia nhập để cùng xây dựng nền tảng mà các kỹ sư tin dùng để đưa sản phẩm AI ra thị trường.
VỀ VAI TRÒ
Các Forward Deployed Engineer làm việc trực tiếp với những công ty AI lớn nhất và tăng trưởng nhanh nhất thế giới, chịu trách nhiệm về kết quả kỹ thuật của họ trên Baseten và xử lý những bài toán khó nhất trong việc vận hành và cải thiện mô hình ở quy mô lớn. Công việc trải dài trong toàn bộ vòng đời của mô hình: inference, post-training và các hệ thống giúp rút ngắn vòng lặp giữa hai khâu này.
- Đóng vai trò CTO trên thực tế của từng khách hàng trên Baseten, chịu trách nhiệm cuối cùng về cách khối lượng công việc của họ được thiết kế, vận hành và mở rộng.
- Đưa mục tiêu của khách hàng từ mơ hồ đến khi ra mắt: xác định rõ vấn đề, đặt ra đặc tả và tiêu chí thành công, xây dựng PoC, rồi nhanh chóng đưa lên production, sử dụng công cụ phù hợp với từng bài toán.
- Thiết kế các bộ eval và benchmark để chỉ ra chính xác chất lượng hoặc hiệu năng đang thiếu ở đâu, sau đó tự mình thu hẹp khoảng cách đó, dù là bằng cách tối ưu inference, cải thiện mô hình thông qua post-training hay thiết kế lại chính bộ eval.
- Là người phản ứng đầu tiên trước các sự cố trọng yếu, bao gồm phân loại sự cố (triage), trực tiếp xử lý hoặc chuyển cho đội phụ trách rồi theo sát cho đến khi bản sửa được triển khai.
- Xây dựng các hệ thống nội bộ để mỗi dự án triển khai sau nhanh hơn dự án trước. Việc này bao gồm công cụ và tự động hóa cho hạ tầng eval và deployment, cùng các recipe và bản triển khai tham chiếu giúp sản phẩm dễ tự sử dụng hơn.
- Định hình chính sản phẩm: đưa nhu cầu của các khách hàng mình phụ trách vào roadmap, đồng thời tự mình đóng góp các bản sửa lỗi và tính năng mới vào codebase của Baseten.
- Làm tất cả những việc trên cho nhiều khách hàng cùng lúc: sắp xếp thứ tự công việc, huy động đúng người vào đúng thời điểm, và giữ cho khách hàng cũng như các bên liên quan nội bộ luôn nắm cùng một thông tin về tiến độ và rủi ro.
YÊU CẦU
- Tối thiểu 1-2 năm kinh nghiệm software engineering, từng triển khai và duy trì code trong các hệ thống production lớn, tốt nhất là có hiểu biết rộng trên nhiều tầng của stack
- Có kinh nghiệm debug các sự cố phức tạp trên production: lần theo log, metric và trace để tìm nguyên nhân gốc rễ trong những hệ thống còn xa lạ
- Tự tin đảm nhận các vấn đề kỹ thuật chưa rõ ràng, bao gồm phân loại sự cố, đưa ra quyết định khi còn nhiều điều chưa chắc chắn, và biết lúc nào cần nhờ các kỹ sư phụ trách hệ thống nền tảng vào cuộc
- Có động lực vượt ra ngoài kỹ thuật thuần túy: muốn làm việc trực tiếp với khách hàng, hiểu vấn đề của họ từ chính nguồn, và tác động đến sản phẩm
- Giao tiếp rõ ràng về các chủ đề kỹ thuật phức tạp, dù đối tượng là kỹ sư hay ban lãnh đạo của khách hàng
- Thực sự tò mò về inference và training của AI, và quyết tâm trở thành chuyên gia về hạ tầng vận hành chúng
- Sẵn sàng phản hồi khách hàng ngoài giờ làm việc thông thường và tham gia lịch trực on-call
- Hào hứng với việc giải quyết vấn đề cho một số công ty lớn nhất và tăng trưởng nhanh nhất thế giới đang chạy các workload AI trọng yếu
ĐIỀU BẠN SẼ MANG ĐẾN
Chúng tôi không kỳ vọng một người phải đáp ứng tất cả những điều này. Những ứng viên xuất sắc nhất có thể nổi trội ở một hoặc hai mảng sau:
- Chuyên môn sâu trong một mảng hạ tầng cốt lõi như hệ thống lưu trữ hoặc mạng (từ tầng cloud đến các kết nối liên cụm như InfiniBand và RoCE)
- Kinh nghiệm vận hành các nền tảng tính toán phân tán như Kubernetes, Slurm hoặc Ray, đặc biệt cho workload GPU
- Hiểu biết chi tiết về kiến trúc LLM và các inference engine hiện đại như vLLM, TensorRT-LLM hoặc SGLang
- Khả năng profile và tối ưu các workload GPU, trong training hoặc serving
- Kinh nghiệm thực tế với các kỹ thuật post-training như SFT và RL, hoặc nền tảng deep learning rộng hơn cùng khả năng sử dụng thành thạo một thư viện tính toán tensor như PyTorch hoặc JAX
- Chiều sâu về vận hành: từng trực on-call, chỉ huy xử lý sự cố, debug hệ thống phân tán trong điều kiện áp lực
QUYỀN LỢI
- Mức đãi ngộ cạnh tranh, bao gồm cổ phần có giá trị đáng kể
- (Chỉ áp dụng tại Mỹ) Chi trả 100% bảo hiểm y tế, nha khoa và thị lực cho nhân viên và người phụ thuộc
- Chính sách nghỉ phép có lương linh hoạt, cùng kỳ nghỉ đông toàn công ty (văn phòng đóng cửa từ Christmas Eve đến New Year's Day!)
- Nghỉ thai sản và nghỉ chăm con có lương
- Hỗ trợ tài chính cho điều trị hiếm muộn và xây dựng gia đình thông qua Carrot
- (Chỉ áp dụng tại Mỹ) Chương trình 401(k) do công ty hỗ trợ
- Cơ hội tiếp xúc với nhiều startup ML khác nhau, mang lại môi trường học hỏi và kết nối vô cùng quý giá.
Hãy ứng tuyển ngay để bắt đầu một hành trình đáng giá trong việc định hình tương lai của AI! Nếu bạn là người có động lực, đam mê machine learning và mong muốn trở thành một phần của đội ngũ hợp tác, tư duy hướng tới tương lai, chúng tôi rất mong được nghe từ bạn.
Tại Baseten, chúng tôi cam kết xây dựng một môi trường làm việc đa dạng và hòa nhập. Chúng tôi cung cấp cơ hội việc làm bình đẳng cho tất cả nhân viên và ứng viên, không phân biệt chủng tộc, màu da, tôn giáo, giới tính, xu hướng tính dục, bản dạng hoặc biểu hiện giới, nguồn gốc quốc gia, độ tuổi, thông tin di truyền, tình trạng khuyết tật hay tình trạng cựu chiến binh.
Chúng tôi là nhà tuyển dụng đảm bảo cơ hội bình đẳng (Equal Opportunity Employer) và sẽ xem xét các ứng viên đủ điều kiện có tiền án, tiền sự theo cách phù hợp với quy định pháp luật hiện hành (ví dụ, các yêu cầu của San Francisco Fair Chance Ordinance, khi được áp dụng).
