V Thinking Machines naše práce zahrnuje spolupráci s širší výzkumnou komunitou. Dnes se s potěšením podělíme o to, že ve společnosti @thinkymachines budujeme tým vLLM, který bude rozvíjet open-source vLLM a poskytovat hraniční modely. Pokud máte zájem, napište mi nebo @barret_zoph!
Zde je několik příkladů rolí / projektů:
* Distribuovaný inferenční inženýr pro podporu rozsáhlých modelů na GPU Blackwell
PyTorch a inženýr pro optimalizaci modelů pro podporu a optimalizaci nejnovějších modelů OSS
* MLSys generalista pro různé aspekty vLLM