Något jag kommer att gilla med Thinking Machines jämfört med andra frontier labs är detta, helt klart.
Inte ens meta gör detta av vilken anledning? Vem vet
På Thinking Machines arbetar vi bland annat med att samarbeta med forskarsamhället i stort. Idag är vi glada att kunna dela med oss av att vi bygger ett vLLM-team på @thinkymachines för att främja öppen källkod vLLM och betjäna frontmodeller. Om du är intresserad, vänligen DM mig eller @barret_zoph!
Här är några exempel på roller/projekt:
* Distribuerad inferensingenjör för att stödja storskaliga modeller på Blackwell GPU:er
* PyTorch och modelloptimeringsingenjör för att stödja och optimera de senaste OSS-modellerna
* MLSys generalist för olika aspekter av vLLM
Gillar inte det nuvarande tillståndet i detta land tbh
Är vi permanent förlorade eller kan vi vara en plats med lite värdighet och chilla igen en dag 🤷 ♂️🫤