Thinking Machinesilla teemme yhteistyötä laajemman tutkimusyhteisön kanssa. Tänään olemme innoissamme voidessamme kertoa, että rakennamme vLLM-tiimiä @thinkymachines edistämään avoimen lähdekoodin vLLM:ää ja palvelemaan eturintamamalleja. Jos olet kiinnostunut, lähetä minulle tai @barret_zoph!
Tässä muutamia esimerkkejä rooleista / projekteista:
* Hajautettu päättelyinsinööri tukee suuria malleja Blackwellin grafiikkasuorittimilla
* PyTorchin ja mallin optimointi-insinööri tukemaan ja optimoimaan uusimpia OSS-malleja
* MLSys-generalisti vLLM:n eri osa-alueille