What is LLM Embedding Cost Calculator?
▾
Az LLM beágyazási költségkalkulátor megbecsüli a szöveges adatok vektoros beágyazásának generálásának teljes költségét olyan kereskedelmi API-modellekkel, mint az OpenAI text-embedding-3-small, text-embedding-3-large és az örökölt ada-002. A beágyazások a szöveget sűrű numerikus vektorokká alakítják (általában 256-3072 dimenzió), amelyek szemantikai jelentést rögzítenek, lehetővé téve a hasonlóságkeresést, a klaszterezést és a visszakereséssel kiegészített generálás (RAG) folyamatát. 2025-től az OpenAI a text-beágyazás-3-small ára 0,02 dollár millió tokenenként, a text-beágyazás-3-nagy ára pedig 0,13 dollár millió tokenenként, míg a régebbi ada-002 továbbra is elérhető 0,10 dolláros millió tokenenként. Az alternatívák közé tartozik a Cohere Embed v3 millió tokenenként nagyjából 0,10 dollárért, valamint az olyan ingyenes nyílt forráskódú modellek, mint a BGE, E5 és GTE, amelyek önálló GPU-infrastruktúrát igényelnek. Ezt a számológépet naponta használják a szemantikus keresőrendszereket építő gépi tanulási mérnökök, a mesterséges intelligencia által támogatott ajánlásokat tartalmazó termékcsapatok, valamint az ETL-folyamatokat tervező adatmérnökök, amelyeknek a modellek frissítésekor újra be kell ágyazni a dokumentumokat. Egy tipikus vállalati tudásbázis egymillió dokumentumból, egyenként 500 tokennel, összesen 500 millió tokent, ami mindössze 10 dollárba kerül szövegbeágyazással-3-kicsi, de 65 dollárba szöveg-beágyazás-3-nagy esetén. Ezen költségkülönbségek megértése elengedhetetlen a megfelelő minőség-költség arány kiválasztásához. A nyers beágyazási API-költségen túl ez a számológép az általános költségek feldarabolását (az átfedő darabok 10-30 százalékkal növelhetik a tokenszámot), a dokumentumfrissítések ismételt beágyazásának gyakoriságát, valamint a vektorok adatbázisban (például Pinecone, Weaviate vagy pgvector) való tárolásának kiegészítő költségeit is figyelembe veszi. A teljes folyamat modellezésével a csapatok megalapozott döntéseket hozhatnak a modellválasztással, a darabméretekkel és a frissítési ütemekkel kapcsolatban, amelyek az adatmennyiség növekedésével előre jelezhetik a költségeket.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
Képlet
▾
Teljes beágyazási költség = (Dokumentumok száma x Átlagos tokenek egy dokumentumonként x (1 + átfedési arány)) / 1 000 000 x 1 millió tokenek ár. Például 200 000 dokumentum beágyazása 400 tokennel, 15 százalékos átfedéssel a text-beágyazás-3-small használatával, 0,02 USD/1 millió token: Összes token = 200 000 x 400 x 1,15 = 92 000 000 token. Költség = (92 000 000 / 1 000 000) x 0,02 USD = 92 x 0,02 USD = 1,84 USD.Variable Legend
▾
| Szimbólum | Név | Egység | Leírás |
|---|---|---|---|
| N | Dokumentumok száma | documents | A szöveges dokumentumok vagy előre darabolt szövegszegmensek teljes száma a korpuszban, amelyeket vektoros beágyazásokká kell konvertálni. |
| T_avg | Átlagos tokenek dokumentumonként | tokens | A tokenek átlagos száma dokumentumonként vagy darabonként, általában a tiktoken könyvtár vagy az OpenAI tokenizer eszköz segítségével mérve a pontos BPE token számlálás érdekében. |
| O | Átfedési arány | ratio (0 to 0.5) | Az egymást követő darabok között megosztott tokenek aránya egy csúszóablak-darabolási stratégiában, általában 0,10 és 0,25 között van beállítva a kontextus folytonosságának megőrzése érdekében. |
| P | Millió tokenenkénti ár | USD per 1M tokens | A beágyazási API-szolgáltató által felszámított költség egymillió token feldolgozásáért, például 0,02 USD a text-embedding-3-small vagy 0,13 USD a text-beágyazás-3-large esetében. |
| U | Havi frissítési arány | ratio (0 to 1) | A korpuszban lévő dokumentumok azon része, amelyeket minden hónapban hozzáadnak, módosítanak vagy törölnek, és amelyek újbóli beágyazást igényelnek a vektorindex aktuális megőrzéséhez. |
| D | Vektor méretek | dimensions | Az egyes beágyazási vektor kimenetek dimenzióinak száma, amely meghatározza a tárolási követelményeket és a keresési teljesítményt. Az általános értékek a 256, 1536 és 3072. |
How to LLM Embedding Cost Calculator
▾
- 1Kezdje azzal, hogy megszámolja a korpuszban található dokumentumok vagy szövegrészek teljes számát. Ezek lehetnek termékleírások, támogatási cikkek, PDF-oldalak vagy bármilyen szöveges egység, amelyet kereshetővé szeretne tenni. Ha olyan nyers dokumentumai vannak, amelyeket még nem daraboltak fel, becsülje meg, hogy mindegyik hány darabot fog előállítani a céldarabméret (általában 256–512 token) és az átfedési beállítások alapján.
- 2Határozza meg az átlagos tokenszámot darabonként. Használhatja az OpenAI tokenizer eszközt vagy a tiktoken Python könyvtárat a mintadokumentumok pontos tokenszámának mérésére. Durva ökölszabály, hogy egy token körülbelül négy angol karakternek vagy 0,75 szónak felel meg. Többnyelvű korpuszoknál a tokenszám 1,5-2-szer nagyobb lehet, mint az angol megfelelők, mivel a bájtpáros kódolás hogyan kezeli a nem latin írásokat.
- 3Válassza ki a beágyazási modellt, és jegyezze fel annak árszintjét. Az OpenAI text-embedding-3-small ára 0,02 dollár millió tokenenként, a text-beágyazás-3-nagy költsége 0,13 dollár millió tokenenként, az ada-002 pedig 0,10 dollár millió tokenenként. A kis modell alapértelmezés szerint 1536 dimenziós vektorokat állít elő (256-ig konfigurálható), míg a nagy modell 3072 dimenziót ad ki. A nagyobb méretek általában jobb visszakeresési minőséget eredményeznek több tárhely és lassabb hasonlósági keresés árán.
- 4Állítsa be a darabolási átfedési arányt. A legtöbb RAG-megvalósítás 10-20 százalékos átfedést használ az egymást követő darabok között, hogy megőrizze a kontextust a darabok határain. A 0,15-ös átfedési arány azt jelenti, hogy minden egyes csonk a tokenek 15 százalékán osztozik a következő résszel, ami gyakorlatilag ugyanazzal a százalékkal növeli a tokenek teljes számát. Ez egy gyakran figyelmen kívül hagyott költségszorzó.
- 5Számítsa ki az egyszeri beágyazás költségét az összes token (beleértve az átfedést) és a modell árának megszorzásával. Ezután becsülje meg a havi újrabeágyazási költségét az alapján, hogy a korpusz hány része változik havonta. Ha a dokumentumok 5 százaléka havonta frissül, az ismétlődő költsége a kezdeti beágyazási költség 5 százaléka. Egyes csapatok a teljes korpuszukat is beágyazzák, amikor egy újabb modellverzióra térnek át a jobb minőség érdekében.
- 6Tényező a vektortárolási költségekben, amelyek kiegészítik a beágyazás költségeit. A Pinecone 0,096 dollárt kér pod-óránként az s1 pod típusért, a Weaviate Cloud havi 25 dollártól indul kis klaszterek esetén, a saját üzemeltetésű pgvector pedig szerény felhőalapú virtuális gépen havi 50-150 dollárba kerül. A beágyazások teljes tulajdonlási költsége magában foglalja a generálást és a folyamatos tárolást és lekérdezést is.
- 7Tekintse át a végső költséglebontást, amely tartalmazza a dokumentumonkénti költséget, a teljes egyszeri költséget, a becsült havi ismétlődő költséget és a vektortárolási költséget. Használja ezt a modellek összehasonlítására és adatvezérelt döntések meghozatalára. Sok csapat úgy találja, hogy a text-beágyazás-3-small a text-beágyazás-3-nagy visszakeresési minőségének legalább 95 százalékát biztosítja 85 százalékkal alacsonyabb költség mellett, így ez az alapértelmezett választás a legtöbb éles munkaterheléshez.
Worked Examples
▾
Az átfedéssel rendelkező tokenek összesen 50 000-szer 300-szor 1,10, ami 16 500 000 token. Egymillióval osztva és 0,02 dollárral szorozva 0,33 dollárt kapunk. Ez azt mutatja, hogy a modern árazás mellett mennyire megfizethetővé vált a kis és közepes korpuszok beágyazása.
Kétmillió dokumentum 600 tokennel 20 százalékos átfedéssel összesen 1 440 000 000 tokent eredményez. Millió tokenenként 0,13 dollár, a teljes korpusz költsége 187,20 dollár. Bár nem triviális, ez egy egyszeri költség, amely több hónapos termelési használat során amortizálható.
Az ada-002-ről a text-embedding-3-small-re való áttérés 500 000 dokumentum esetében körülbelül 80 százalékos megtakarítást jelent a beágyazási költségeken. Az újabb modell jobb visszakeresési benchmarkokat is kínál, így a migráció olcsóbb és jobb minőségű.
A nem latin nyelvű írások általában 50-100 százalékkal növelik a tokenek számát az angolhoz képest. A dokumentumonkénti 700 token már ezt az inflációt magyarázza. A teljes költség 300 000-szer 700-szor 1,15 osztva 1 000 000-szer 0,13 dollárral, ami 31,40 dollárnak felel meg.
Real-World Applications
▾
Az e-kereskedelmi vállalatok több millió termékleírást ágyaznak be a szemantikus keresési funkciók fejlesztése érdekében, amelyek megértik a természetes nyelvű lekérdezéseket, mint például a "meleg vízálló kabát túrázáshoz", nem pedig pontos kulcsszóegyezéseket. Egy 5 millió termékkel, egyenként átlagosan 200 tokennel rendelkező nagy kereskedő mindössze 20 dollárt költene a text-embedding-3-small használatával a teljes katalógusa beágyazására, ami olyan keresési élményt tesz lehetővé, amely jelentősen növeli a konverziós arányt és az átlagos rendelési értéket.
A jogi technológiai cégek több százezer bírósági véleményt tartalmazó ítélkezési gyakorlati adatbázisokat ágyaznak be, hogy az ügyvédek természetes nyelvi lekérdezéseken keresztül megtalálják a releváns precedenseket. Egy tipikus jogi korpusz 500 000 dokumentumból 800 tokennel, egyenként 20 százalékos átfedéssel körülbelül 9,60 dollárba kerül szövegbeágyazással-3-small. Ez az egyszeri befektetés helyettesíti a kézi jogi kutatást, amely korábban esetenként órákat vett igénybe, és óriási megtérülést eredményezett.
Az ügyfélszolgálati platformok a súgócikkek, a GYIK bejegyzések és a korábbi jegyekkel kapcsolatos megoldások teljes tudásbázisát beágyazzák, hogy automatikusan releváns válaszokat javasoljanak, amikor az ügyfelek új jegyeket küldenek be. Egy 100 000 terméktámogatási cikkel rendelkező vállalat 1 dollár alatt beágyazhatja azokat a text-embedding-3-small funkcióval, majd koszinuszos hasonlóságot használva a bejövő kérdéseket a meglévő megoldásokkal egyeztetheti. Ez általában a jegyek 40-60 százalékát eltéríti, mielőtt az emberi ügynökhöz eljutna.
Az egészségügyi technológiai vállalatok orvosi szakirodalmat és klinikai irányelveket ágyaznak be olyan visszakereséssel kiegészített generációs rendszerek létrehozásához, amelyek segítségével az orvosok gyorsan bizonyítékokon alapuló válaszokat találhatnak klinikai kérdésekre. Egy 2 millió kutatási absztraktot tartalmazó, egyenként 400 tokenből álló adatbázis beágyazása körülbelül 16 dollárba kerül. A vektoros ábrázolások lehetővé teszik a szemantikai egyezést, amely olyan módon érti meg az orvosi szinonimákat és a kapcsolódó fogalmakat, ahogy a hagyományos kulcsszavas keresés nem képes.
Special Cases
▾
Nagyon rövid szövegek beágyazásakor, például termékcímek vagy keresési lekérdezések, amelyek
Nagyon rövid szövegek, például termékcímek vagy csak 5–20 token hosszúságú keresési lekérdezések beágyazásakor a dokumentumonkénti költség elhanyagolhatóvá válik (egyenként 0,0000004 USD alatti text-embedding-3-small esetén), de a teljes API-hívási többlet szűk keresztmetszetgé válhat. Az OpenAI beágyazási végpontok kérésenként akár 2048 szövegből álló kötegeket is fogadnak, a rövid szövegek kötegelése pedig drámaian megnöveli a másodpercenkénti beágyazások százairól több tízezerre való átviteli sebességet. Mindig kötegessen rövid szövegeket, ahelyett, hogy egyedi API-hívásokat küldene.
A 100 millió dokumentumot meghaladó korpusz esetén a költségszámítást figyelembe kell venni
A 100 millió dokumentumot meghaladó korpuszok esetében a költségszámításnak figyelembe kell vennie az API-díjhatárokat és az idődimenziót. Az OpenAI beágyazási végpontjai percenkénti tokenben mérik a sebességkorlátokat, és 100 millió dokumentum beágyazása 500 tokennel (50 milliárd token) percenkénti 5 millió token sebességgel közel 7 napos folyamatos feldolgozást igényel. Ebben a léptékben a nyílt forráskódú modellek több GPU-n történő önálló üzemeltetése jellemzően praktikusabb és költséghatékonyabb, még az infrastruktúra összetettségét is figyelembe véve.
Többnyelvű beágyazási rendszerek építésénél ügyeljen arra, hogy a tokenszám nyelvenként jelentősen eltér.
Egy 100 szavas szövegrész angolul 130 jelzőt tartalmazhat, míg a japánul kifejezett azonos jelentéshez 200-250 token szükséges a karakterszintű tokenizálás miatt. Ez azt jelenti, hogy a japán, kínai, koreai, thai és arab korpuszok beágyazási költségei 50-100 százalékkal magasabbak lehetnek, mint a megfelelő angol korpuszok. Költségvetése ennek megfelelően, és fontolja meg a nyelvspecifikus beágyazási modelleket, amelyek hatékonyabban tokenizálhatnak a célnyelveken.
Modellár-összehasonlítás beágyazása (2025)
▾
| Modell | Szolgáltató | Ár 1M tokenenként | Alapértelmezett méretek | Max Tokens | MTEB pontszám |
|---|---|---|---|---|---|
| szöveg-beágyazás-3-kicsi | OpenAI | 0,02 USD | 1536 | 8191 | 62,3% |
| szöveg-beágyazás-3-nagy | OpenAI | 0,13 USD | 3072 | 8191 | 64,6% |
| text-embedding-ada-002 | OpenAI | 0,10 USD | 1536 | 8191 | 61,0% |
| embed-v3 (angol) | Összefügg | 0,10 USD | 1024 | 512 | 64,5% |
| Gemini text-beágyazás-004 | 0,00625 USD | 768 | 2048 | 66,3% | |
| BGE-large-en-v1.5 | Nyílt forráskód | Saját házigazda | 1024 | 512 | 63,6% |
| E5-nagy-v2 | Nyílt forráskód | Saját házigazda | 1024 | 512 | 62,7% |
Frequently Asked Questions
▾
Melyik beágyazási modell kínálja a legjobb költség-minőség arányt?
A legtöbb éles felhasználási esetben az OpenAI text-embedding-3-small a minőség és a költség legjobb egyensúlyát biztosítja, 0,02 USD/millió tokenért. 2-5 százalékponton belül ér el a text-beágyazás-3-large-hoz képest olyan szabványos visszakeresési benchmarkokon, mint az MTEB, miközben 85 százalékkal kevesebbe kerül. A nagy, 0,13 dollár/millió tokenek árú modell csak akkor éri meg a prémiumot, ha nagyon speciális tartományokkal dolgozik, ahol a visszakeresési pontosság minden százalékpontja számít, például a jogi vagy orvosi keresés.
Hány tokent tartalmaz egy tipikus dokumentum?
Egy szabványos 500 szavas angol dokumentum körülbelül 625-700 tokent tartalmaz BPE tokenizálással. A RAG-alkalmazások esetében a dokumentumok általában 256–512 token szegmensekre vannak felosztva, 50–128 token átfedéssel. Egy token nagyjából négy angol karakterből vagy 0,75 szóból áll. A nem latin szkriptek, például a kínai, a japán és a koreai, szónként 1,5-2-szer több tokent használhatnak, mivel a bájtpáros kódolás hogyan kezeli a karakterkészleteiket.
A kis vagy nagy beágyazó modellt használjam?
Kezdje a text-beágyazás-3-small-el a fejlesztéshez és a kezdeti éles üzembe helyezéshez. Mérje meg a visszakeresési minőségi mutatókat, például a visszahívást k-nál és az adott adatok kölcsönös rangjának átlagát. Ha ezek a mutatók a minőségi küszöb alatt vannak, frissítsen text-embedding-3-large-re, és hasonlítsa össze. A gyakorlatban a csapatok kevesebb mint 20 százaléka találja úgy, hogy a nagy modell minőségi javulása indokolja a 6,5-szer magasabb költséget.
Hogyan viszonyul a beágyazás költsége a vektoros adatbázis tárolási költségeihez?
A beágyazás generálása jellemzően egyszeri vagy nem gyakori költség, míg a vektoros tárolás folyamatos havi költség. Egymillió 1536 dimenziós vektor esetében a nyers tárhely körülbelül 6 GB. Pinecone-ban ez havi 70–100 dollárba kerülhet, a pod konfigurációjától függően. A kezdeti beágyazási költség a text-beágyazás-3-small esetén ugyanazon millió dokumentum esetében körülbelül 10–15 USD, egyszeri díj ellenében. Egy év alatt a vektortárolás költségei általában 5-10-szer meghaladják a beágyazás generálási költségeit.
Csökkenthetem a beágyazás költségeit a vektor méretének csökkentésével?
Igen, a szöveg-beágyazás-3-kis és a szöveg-beágyazás-3-nagy egyaránt támogatja a Matryoshka dimenziócsökkentést, lehetővé téve a vektorok kevesebb dimenzióra történő csonkolását újbóli beágyazás nélkül. A méretek 1536-ról 256-ra való csökkentése körülbelül 83 százalékkal csökkenti a tárolási és keresési költségeket, miközben a visszakeresés minősége csak szerény mértékben csökken. Ez a technika különösen hasznos nagyméretű alkalmazásoknál, ahol a tárolási és keresési késleltetési költségek uralják a teljes birtoklási költséget.
Olcsóbb a nyílt forráskódú beágyazó modellek önálló üzemeltetése?
Az önkiszolgáló modellek, például a BGE-large vagy az E5-large-v2 felhőalapú GPU-n költséghatékonyabbá válnak. Egyetlen A10G GPU-példány körülbelül 1 USD/óra áron nagyjából 1000-2000 dokumentumot tud beágyazni másodpercenként. 10 millió dokumentum esetén az öntárolás körülbelül 5–10 USD számítási időbe kerül, szemben az API-n keresztüli 2–13 USD-vel. Ugyanakkor Ön viseli az infrastruktúra-kezelés, a figyelés és a méretezés költségeit is. A megtérülési pont általában havi 50-100 millió token körül van a folyamatban lévő munkaterhelések esetén.
Milyen gyakran kell újra beágyaznom a dokumentumaimat?
Csak akkor ágyazza be újra a dokumentumokat, ha a tartalom lényegesen megváltozik, vagy amikor áttér egy új beágyazási modellre. A tartalomfrissítéseknél hajtson végre növekményes újrabeágyazást, amely csak a módosított dokumentumokat dolgozza fel, nem pedig a teljes korpuszt. A legtöbb csapat évente egyszer vagy kétszer újra beágyazza teljes korpuszát, amikor egy újabb modellverzióra frissít. Ha olyan változásészlelési folyamatot állít be, amely megjelöli a módosított dokumentumokat újbóli beágyazáshoz, a költségek arányosak maradnak a tényleges tartalomlemorzsolódási aránnyal.
Common Mistakes to Avoid
▾
- !A beágyazott árképzés összekeverése az LLM következtetési árképzéssel:
- !A csonkolt átfedési token overhead figyelmen kívül hagyása:
- !A modellek frissítésekor felmerülő újbóli beágyazási költségek elfelejtése:
Pro Tip
Használja a text-beágyazás-3-small-t Matryoshka méretének csökkentésével 256 méretre prototípuskészítéshez. Ez olyan vektorokat biztosít, amelyek hatszor kisebbek az alapértelmezett 1536-os dimenziónál, drasztikusan csökkentve a tárolási és keresési költségeket, miközben a visszakeresési minőség körülbelül 90 százalékát megőrzi. Mindig újra beágyazhatja a teljes dimenziót a gyártáshoz, ha az értékelési mutatók ezt megkövetelik.
Did you know?
A teljes angol Wikipédia, amely hozzávetőleg 6,7 millió cikket tartalmaz nagyjából 4,4 milliárd tokennel, teljesen beágyazható a text-embedding-3-small használatával, körülbelül 88 dollárért. Ez azt jelenti, hogy a Wikipédián összegyűjtött teljes emberi tudást átfogó szemantikai keresőmotor létrehozása kevesebbe kerül, mint egyetlen vacsora egy középkategóriás étteremben.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
References
Szerezzen heti matematikai tippeket
Csatlakozzon 12 000+ feliratkozóhoz, akik minden héten kapnak tippeket a számológéphez.