Az MI költségeinek rejtett tétele az egyre növekvő adattárolás
A mesterséges intelligencia költségeiről szóló vállalati tervezésekben általában a grafikus processzorok, az energiafelhasználás és a nehezen beszerezhető chipek kerülnek előtérbe. A háttérben keletkező és hosszú időre megőrzött adatok tárolása azonban legalább ilyen fontos tétel lehet. Míg egy modell betanítása egyszeri, jól körülhatárolható projektként tervezhető, a használat, vagyis az inferencia folyamatosan zajlik: minden kérés, kép, videó és válasz újabb adatokat hagy maga után.
A WD belső mérése egy AI által készített videó példáján mutatja meg a különbséget. Egy nyolc másodperces, a felhasználónak 3,97 megabájtos, 720p-s fájlként átadott videó több mint 500 megabájtnyi kapcsolódó adatot generált a háttérrendszerben. Ebbe a naplók, a gyorsítótárban tárolt kontextus, az ideiglenes renderelések, a biztonsági másolatok és a biztonsági ellenőrzések adatai is beletartoztak. A háttérben így a kimeneti fájl méretének mintegy 130-szorosa maradt meg, nagyobb felbontás és hosszabb videók esetén pedig egyetlen feladat több száz gigabájtos lábnyomot is hagyhat.
A McKinsey szerint 2030-ig az inferencia iránti kereslet évente átlagosan 35 százalékkal nőhet, szemben a modellbetanítás 22 százalékos ütemével, és az évtized végére az adatközponti igény több mint 40 százalékát adhatja. Egy 763 informatikai és üzleti döntéshozót vizsgáló WD–IDC-felmérésben a válaszadók csaknem 95 százaléka számolt be a generatív AI miatt növekvő adatmennyiségről, 61 százalékuk pedig legalább 25 százalékos bővülést jelzett. Az adatok ráadásul nem tűnnek el a számítási terhelés mérséklődésével: a naplók, eredmények és szintetikus tartalmak felhalmozódnak, később pedig új AI-feladatok bemeneteként is használhatók. Ezért a vállalatoknak nemcsak nagyobb, hanem gyorsabban elérhető tárkapacitással is számolniuk kell.
Folytasd az appban — szavazz és szólj hozzá ➔