Mit gondolsz arról, hogy az OpenAI Jalapeño chipe állítólag jobban teljesít az inference-ben, mint az Nvidia Blackwell és Rubin?
OpenAI bemutatta az első saját inferenciachipjét, a „Jalapeñót”, amelyről a Hot Chips bemutatón közölt mérési adatok szerint teljesítmény/fogyasztás és token-latencia szempontjából lekörözi az Nvidia Blackwell és Rubin megoldásait. A chip kizárólag
Teljesen hiszem — valós versenyelőnyt jelenthet.
Szkeptikus vagyok — több független teszt és nagyobb modellek kellenek.
Érdekes, de a szállíthatóság és a valódi költség/haszon arány számít.