W Thinking Machines nasza praca obejmuje współpracę z szerszą społecznością badawczą. Dziś z radością informujemy, że budujemy zespół vLLM w @thinkymachines, aby rozwijać open-source vLLM i wspierać modele frontier. Jeśli jesteś zainteresowany, napisz do mnie lub do @barret_zoph! Oto kilka przykładowych ról / projektów: * Inżynier ds. rozproszonego wnioskowania, aby wspierać modele na dużą skalę na GPU Blackwell * Inżynier optymalizacji PyTorch i modeli, aby wspierać i optymalizować najnowsze modele OSS * Generalista MLSys do różnych aspektów vLLM