Barion Pixel

Milyen architekturális újítást használ a Thinking Machines Lab által kiadott Inkling 2 Mini modell a méret növelése nélküli mélyebb következtetés érdekében?

A Thinking Machines Lab által kiadott **Inkling 2 Mini** egy nyílt súlyú, multimodális, hurokba kapcsolt transzformátor (looped transformer) alapú mesterséges intelligencia modell, amelyet arra terveztek, hogy offline is futtatható legyen helyi eszközökön, például egy 32 GB-os MacBook Prón vagy egyet

  • Hagyományos lineáris transzformátor rétegeket
  • Hurokba kötött (looped) transzformátor architektúrát
  • Kizárólag sűrű (dense) multi-head figyelmi mechanizmust
  • Külső felhőalapú láncolt token generálást