Tại Thinking Machines, công việc của chúng tôi bao gồm hợp tác với cộng đồng nghiên cứu rộng lớn hơn. Hôm nay, chúng tôi rất vui mừng thông báo rằng chúng tôi đang xây dựng một đội ngũ vLLM tại @thinkymachines để phát triển vLLM mã nguồn mở và phục vụ các mô hình tiên tiến. Nếu bạn quan tâm, hãy nhắn tin cho tôi hoặc @barret_zoph! Dưới đây là một số vai trò / dự án ví dụ: * Kỹ sư suy diễn phân tán để hỗ trợ các mô hình quy mô lớn trên GPU Blackwell * Kỹ sư tối ưu hóa PyTorch & mô hình để hỗ trợ & tối ưu hóa các mô hình OSS mới nhất * Chuyên gia MLSys cho các khía cạnh khác nhau của vLLM