A DeepSeek nyílt forráskódúvá tette a DeepInfer nevű következtetési keretrendszerét Apache 2.0 licenc alatt. A vLLM-re épülő rendszer optimalizált számítási műveletekkel, több chipes feldolgozással és gyorsabb szöveggenerálással teszi olcsóbbá és
A DeepInfer inference keretrendszerét és a deepseek-recipe csomagot