என்றால் என்ன LLM Cost Comparison Tool?
▾
LLM செலவு ஒப்பீட்டு கால்குலேட்டர் சமமான பணிச்சுமைகளுக்கான பெரிய பெரிய மொழி மாதிரிகளின் பக்கவாட்டு செலவு பகுப்பாய்வை வழங்குகிறது. இது GPT-4o, Claude Sonnet 4, Gemini Pro, Llama 3 (self-hosted) மற்றும் Mistral ஆகியவற்றில் உங்கள் குறிப்பிட்ட பயன்பாட்டுக்கான உண்மையான விலை வேறுபாட்டை வெளிப்படுத்த விலையை இயல்பாக்குகிறது. எல்.எல்.எம் விலை நிர்ணயம் வேகமாக மாறுவது மற்றும் சில மாதங்களுக்கு ஒருமுறை புதிய மாடல்கள் தொடங்கப்படுவதால், இந்தக் கருவி காலாவதியான அனுமானங்களை நம்பாமல் தரவு சார்ந்த வழங்குநர் முடிவுகளை எடுக்க குழுக்களுக்கு உதவுகிறது. விற்பனையாளர் லாக்-இன் அபாயத்தை மதிப்பிடும் CTOக்களுக்கும், பல மாதிரி கட்டமைப்புகளை வடிவமைக்கும் இயங்குதளப் பொறியாளர்கள் மற்றும் நிறுவன ஒப்பந்தங்களைப் பேச்சுவார்த்தை நடத்தும் கொள்முதல் குழுக்களுக்கும் கால்குலேட்டர் இன்றியமையாதது. GPT-4o இல் மாதத்திற்கு $500 செலவாகும் பணிச்சுமை Claude Sonnet 4 இல் $630, ஜெமினி 1.5 Flash இல் $200 அல்லது A100 GPU இல் இயங்கும் லாமா 3 இல் $150 செலவாகும். இந்த வேறுபாடுகள் அளவில் கூட்டு மற்றும் இலாபகரமான AI அம்சத்திற்கும் விளிம்புகளை அரிக்கும் ஒரு அம்சத்திற்கும் உள்ள வேறுபாட்டைக் குறிக்கும். மூல டோக்கன் விலைக்கு அப்பால், பெஞ்ச்மார்க் மதிப்பெண்கள், சூழல் சாளர அளவுகள் மற்றும் நடைமுறை திறன் மதிப்பீடுகளை இணைப்பதன் மூலம் தர வேறுபாடுகளுக்கு ஒப்பீடு கணக்கிடுகிறது. 50 சதவீதம் குறைவாக செலவாகும் ஆனால் இரண்டு மடங்கு அதிகமான மனித மதிப்பாய்வு தேவைப்படும் வெளியீடுகளை உருவாக்கும் ஒரு மாதிரி உண்மையில் மலிவானது அல்ல. இந்த கால்குலேட்டர், மறுவேலை, தாமத அபராதம் மற்றும் பயனர் திருப்தி தாக்கங்கள் உட்பட தரத்தின் மொத்தச் செலவைப் பற்றி முழுமையாகச் சிந்திக்க குழுக்களுக்கு உதவுகிறது.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
சூத்திரம்
▾
மாடல் X க்கான விலை = (உள்ளீடு டோக்கன்கள் x மாடல் X உள்ளீட்டு விலை + வெளியீடு டோக்கன்கள் x மாடல் X வெளியீட்டு விலை) / 1,000,000 x மாதாந்திர கோரிக்கைகள். 50,000 மாதாந்திர கோரிக்கைகளில் 1,000 உள்ளீட்டு டோக்கன்கள் மற்றும் 500 வெளியீட்டு டோக்கன்களின் பணிச்சுமைக்கு: GPT-4o = (1000 x $2.50 + 500 x $10.00) / 1M x 50,000 = $375.00. கிளாட் சோனட் 4 = (1000 x $3.00 + 500 x $15.00) / 1M x 50,000 = $525.00. ஜெமினி 1.5 ப்ரோ = (1000 x $1.25 + 500 x $5.00) / 1M x 50,000 = $187.50.மாறி விளக்கம்
▾
| குறியீடு | பெயர் | அலகு | விவரிப்பு |
|---|---|---|---|
| T_in | ஒரு கோரிக்கைக்கு உள்ளீடு டோக்கன்கள் | tokens | ஒரு API அழைப்பிற்கான உள்ளீட்டு டோக்கன்களின் சராசரி எண்ணிக்கை, வெவ்வேறு டோக்கனைசேஷன் முறைகள் இருந்தாலும் நியாயமான ஒப்பீடுக்காக வழங்குநர்கள் முழுவதும் தரப்படுத்தப்பட்டுள்ளது. |
| T_out | ஒரு கோரிக்கைக்கு வெளியீடு டோக்கன்கள் | tokens | ஒரு பதிலுக்கான வெளியீட்டு டோக்கன்களின் சராசரி எண்ணிக்கை, இது பணி வகையின் அடிப்படையில் 10 வகைப்பாட்டிலிருந்து 4,000 அல்லது அதற்கு மேற்பட்ட உள்ளடக்க உருவாக்கத்திற்கு மாறுபடும். |
| N | மாதாந்திர கோரிக்கை தொகுதி | requests per month | அனைத்து பயன்பாட்டு நிகழ்வுகளிலும் மாதத்திற்கு மொத்த API அழைப்புகள், இது வால்யூம் தள்ளுபடிகள் அல்லது சுய-ஹோஸ்டிங் செலவு குறைந்த மாற்றுகளா என்பதை தீர்மானிக்கிறது. |
| P_in_x | மாடல் X உள்ளீட்டு விலை | USD per 1M tokens | GPT-4o க்கு $2.50, Claude Sonnet 4க்கு $3.00 அல்லது ஜெமினி 1.5 Proக்கு $1.25 போன்ற ஒரு குறிப்பிட்ட மாடலுக்கான உள்ளீட்டு டோக்கன் விலை. |
| P_out_x | மாடல் எக்ஸ் வெளியீடு விலை | USD per 1M tokens | GPT-4o க்கு $10.00, Claude Sonnet 4க்கு $15.00 அல்லது ஜெமினி 1.5 Proக்கு $5.00 போன்ற ஒரு குறிப்பிட்ட மாடலுக்கான வெளியீட்டு டோக்கன் விலை. |
| Q | தரமான மதிப்பெண் | percentage (0-100) | உங்கள் பயன்பாட்டு வழக்குக்கான தொடர்புடைய வரையறைகளின் அடிப்படையில் இயல்பாக்கப்பட்ட தர மதிப்பெண், தர-சரிசெய்யப்பட்ட செலவு ஒப்பீடுகளைக் கணக்கிடப் பயன்படுகிறது. |
எப்படி LLM Cost Comparison Tool
▾
- 1ஒரு கோரிக்கைக்கான சராசரி உள்ளீட்டு டோக்கன்கள், பதிலுக்கான சராசரி வெளியீட்டு டோக்கன்கள் மற்றும் மாதாந்திர கோரிக்கை அளவு ஆகியவற்றைக் குறிப்பிடுவதன் மூலம் உங்கள் பிரதிநிதி பணிச்சுமையை வரையறுக்கவும். மிகவும் துல்லியமான ஒப்பீட்டிற்கு, உங்கள் உண்மையான உற்பத்தி போக்குவரத்து அல்லது பிரதிநிதி மாதிரியிலிருந்து அளவீடுகளைப் பயன்படுத்தவும். வெவ்வேறு பயன்பாடுகள் பல்வேறு உள்ளீடு-வெளியீட்டு விகிதங்களைக் கொண்டுள்ளன: வகைப்பாடு பணிகள் 500 உள்ளீடு மற்றும் 20 வெளியீட்டு டோக்கன்களைப் பயன்படுத்தலாம், அதே நேரத்தில் உள்ளடக்க உருவாக்கம் 1,000 உள்ளீடு மற்றும் 2,000 வெளியீடு டோக்கன்களைப் பயன்படுத்துகிறது. இந்த விகிதம் எந்த மாதிரி மலிவானது என்பதை கணிசமாக பாதிக்கிறது.
- 2நீங்கள் ஒப்பிட விரும்பும் மாதிரிகளைத் தேர்ந்தெடுக்கவும். கால்குலேட்டர் OpenAI GPT-4o மற்றும் GPT-4o-mini, Anthropic Claude Sonnet 4, Haiku மற்றும் Opus 4, Google Gemini 1.5 Pro மற்றும் Flash, அத்துடன் Llama 3 70B, Llama 8Bge, MistralB, Mistral 70B, 8trBge, Mistral 3 போன்ற சுய-ஹோஸ்ட் செய்யப்பட்ட ஓப்பன் சோர்ஸ் மாடல்கள் உட்பட அனைத்து முக்கிய வணிக API களையும் ஆதரிக்கிறது. ஒவ்வொரு மாதிரியும் வெவ்வேறு விலை, திறன்கள் மற்றும் செயல்பாட்டு பண்புகள் உள்ளன.
- 3மாதாந்திர செலவு, கோரிக்கைக்கான செலவு மற்றும் ஒவ்வொரு மாடலுக்கும் 1,000 டோக்கன்களுக்கான செலவு ஆகியவற்றைக் காட்டும் மூலச் செலவு ஒப்பீட்டு அட்டவணையை மதிப்பாய்வு செய்யவும். கால்குலேட்டர் தானாகவே மலிவான மற்றும் மிகவும் விலையுயர்ந்த விருப்பங்களை முன்னிலைப்படுத்துகிறது மற்றும் அவற்றுக்கிடையேயான சதவீத செலவு வேறுபாட்டைக் காட்டுகிறது. பல பணிச்சுமைகளுக்கு, மலிவான API விருப்பம் மிகவும் விலை உயர்ந்ததை விட 5 முதல் 10 மடங்கு குறைவாக இருக்கும்.
- 4விலை நிர்ணயத்துடன் தரநிலை மதிப்பெண்களை மதிப்பாய்வு செய்வதன் மூலம் தர-சரிசெய்யப்பட்ட செலவுகளில் காரணி. உங்கள் பணி அளவுகோல்களில் 10 சதவீதம் குறைவான மதிப்பெண்களைப் பெற்ற மாதிரிக்கு கூடுதல் மனித மதிப்பாய்வு, மறுவேலை அல்லது பயனுள்ள செலவை அதிகரிக்கும் தர்க்கம் தேவைப்படலாம். கால்குலேட்டரில் MMLU, HumanEval மற்றும் பிற நிலையான அளவுகோல் மதிப்பெண்கள் உள்ளன, இது விலை வேறுபாடுகளைச் சூழலாக்க உதவுகிறது.
- 5அதிக அளவிலான பணிச்சுமைகளுக்கான சுய-ஹோஸ்ட் விருப்பங்களைக் கவனியுங்கள். கிளவுட் GPUகளில் Llama 3 70B அல்லது Mistral ஐ இயக்குவதற்கான சமமான செலவை கால்குலேட்டர் மதிப்பிடுகிறது (H100 மணிக்கு $2.50 முதல் $8.00 வரை) மற்றும் API அழைப்புகளை விட சுய-ஹோஸ்டிங் மலிவானதாக இருக்கும் பிரேக்-ஈவன் புள்ளியைக் கணக்கிடுகிறது. பெரும்பாலான அணிகளுக்கு, ஏபிஐ செலவில் மாதத்திற்கு $2,000 முதல் $5,000 வரை பிரேக்-ஈவன் ஆகும்.
- 6உரிமையின் மொத்த செலவை பாதிக்கும் கூடுதல் செலவு காரணிகளை மதிப்பீடு செய்யவும். இவற்றில் விகித வரம்புகள் (அதிக அடுக்குகளுக்கு பணம் செலுத்த வேண்டியிருக்கலாம்), உடனடி கேச்சிங் கிடைக்கும் தன்மை (Claude தற்காலிக சேமிப்பு டோக்கன்களில் 90 சதவீதம் சலுகைகள்), தொகுதி செயலாக்க தள்ளுபடிகள் (OpenAI மற்றும் Anthropic இரண்டும் async பணிச்சுமைகளுக்கு 50 சதவீதம் தள்ளுபடி) மற்றும் நிறுவன ஒப்பந்தங்கள் மூலம் கிடைக்கும் தொகுதி தள்ளுபடிகள் ஆகியவை அடங்கும்.
- 7செலவு, தரம் மற்றும் செயல்பாட்டுத் தேவைகள் ஆகியவற்றின் அடிப்படையில் உங்கள் பணிச்சுமைக்கான உகந்த மாதிரித் தேர்வைச் சுருக்கமாகக் கூறும் பரிந்துரை அறிக்கையை உருவாக்கவும். நீங்கள் வழங்குநர்களை மாற்றினால், உடனடியாக மறு பொறியியல், சோதனை மற்றும் வேறு API வடிவமைப்பிற்கு மாற்றியமைக்கத் தேவையான பயன்பாட்டுக் குறியீடு மாற்றங்கள் ஆகியவற்றைக் கணக்கிட்டால், இடம்பெயர்வு செலவு மதிப்பீட்டை அறிக்கை உள்ளடக்கியது.
தீர்க்கப்பட்ட எடுத்துக்காட்டுகள்
▾
GPT-4o-mini அல்லது Gemini Flash தரம் ஏற்றுக்கொள்ளக்கூடிய சாட்போட்டுக்கு, முதன்மை மாடல்களை விட செலவுகள் 95 சதவீதம் குறைவாக இருக்கும். நேரடியான வாடிக்கையாளர் ஆதரவு வினவல்களுக்கான தர வேறுபாடு பெரும்பாலும் மிகக் குறைவாகவே இருக்கும், இது பட்ஜெட் மாதிரிகளை இந்த பயன்பாட்டு வழக்கில் தெளிவான வெற்றியாளராக ஆக்குகிறது.
உயர்தர மாடல்களில் இருந்து குறியீடு உருவாக்கம் நன்மைகள், ஆனால் Sonnet 4 ஐ விட Opus 4 க்கான 5x பிரீமியம் மிகவும் சிக்கலான பணிகளுக்கு மட்டுமே நியாயப்படுத்தப்படுகிறது. சுய-ஹோஸ்ட் செய்யப்பட்ட Llama 3 70B செலவில் போட்டித்தன்மை வாய்ந்தது ஆனால் உள்கட்டமைப்பு மேலாண்மை தேவைப்படுகிறது மற்றும் சிறப்பு கட்டமைப்புகளுக்கு குறைந்த குறியீடு தரம் இருக்கலாம்.
JSON வெளியீடு குறைவாக இருக்கும் கட்டமைக்கப்பட்ட தரவு பிரித்தெடுப்பிற்கு, ஜெமினி 1.5 ஃப்ளாஷ் குறைந்த செலவில் வழங்குகிறது. இருப்பினும், Claude Haiku மற்றும் GPT-4o-mini ஆகியவை சிக்கலான பிரித்தெடுத்தல் திட்டங்களுக்கு சிறந்த வழிமுறைகளைப் பின்பற்றுகின்றன, எனவே மலிவான மாதிரி எப்போதும் சிறந்த முடிவுகளைத் தராது.
நடைமுறை பயன்பாடுகள்
▾
தொடக்க CTOக்கள் இந்த கால்குலேட்டரை தங்கள் ஆரம்ப AI கட்டிடக்கலை முடிவுகளின் போது, விலையுயர்ந்த வழங்குநரை முன்கூட்டியே அடைப்பதைத் தவிர்க்க பயன்படுத்துகின்றனர். AI எழுதும் உதவியாளரை உருவாக்கும் ஒரு தொடர் A ஸ்டார்ட்அப் அனைத்து முக்கிய வழங்குநர்களையும் மதிப்பீடு செய்தது மற்றும் GPT-4o-mini $0.15/$0.60 க்கு GPT-4o தரத்தில் 92 சதவீதத்தை 94 சதவீதம் குறைந்த விலையில் அவர்களின் குறிப்பிட்ட பயன்பாட்டுக்கு வழங்கியதைக் கண்டறிந்தது. இந்த முடிவானது அவர்கள் 500,000 மாதாந்திர API அழைப்புகளை அளவிடுவதால், அவர்களின் ஓடுபாதையை கணிசமாக நீட்டித்ததால், வருடத்திற்கு சுமார் $40,000 சேமிக்கப்பட்டது.
பல ஆண்டு AI இயங்குதள ஒப்பந்தங்களை பேச்சுவார்த்தை நடத்தும் போது நிறுவன கொள்முதல் குழுக்கள் செலவு ஒப்பீடுகளைப் பயன்படுத்துகின்றன. ஒரு Fortune 500 நிறுவனம் இந்தப் பகுப்பாய்வைப் பயன்படுத்தி, Claude Sonnet 4 இல் உடனடி கேச்சிங் மூலம் சமமான பணிச்சுமைகள் 25 சதவிகிதம் குறைவாக இருக்கும் என்பதைத் தங்கள் OpenAI கணக்குக் குழுவிற்கு நிரூபித்தது, இறுதியில் சேமிப்பில் $180,000 மதிப்புள்ள அவர்களின் OpenAI நிறுவன ஒப்பந்தத்தில் 20 சதவிகிதம் வால்யூம் தள்ளுபடியைப் பெறுகிறது.
ப்ளாட்ஃபார்ம் இன்ஜினியரிங் குழுக்கள் பல மாதிரி ரூட்டிங் சிஸ்டம்களை உருவாக்குவது இந்த கால்குலேட்டரை பயன்படுத்தி செலவு அடிப்படையிலான ரூட்டிங் விதிகளை அமைக்கிறது. ஒரு fintech நிறுவனம் GPT-4o-mini க்கு எளிய வினவல்களை (வகைப்படுத்தல், நிறுவனப் பிரித்தெடுத்தல்), நிலையான வினவல்களை Claude Sonnet 4 க்கும், சிக்கலான பகுப்பாய்வு வினவல்களை GPT-4o க்கும் அனுப்புகிறது. இந்த வரிசைப்படுத்தப்பட்ட ரூட்டிங் அவர்களின் மாதாந்திர AI செலவினத்தை $12,000 இலிருந்து $4,800 ஆகக் குறைத்தது, அதே நேரத்தில் அனைத்து தொடர்பு வகைகளிலும் பயனர் உணரும் தரத்தைப் பராமரிக்கிறது.
AI ஆலோசனைகள் வாடிக்கையாளர்களுக்கு தீர்வுகளை பரிந்துரைக்கும் போது குறுக்கு வழங்குநர் செலவு பகுப்பாய்வு பயன்படுத்துகிறது. ஏபிஐ செலவுகள், ஒருங்கிணைப்பு முயற்சி மற்றும் தற்போதைய பராமரிப்பு உட்பட ஒவ்வொரு விருப்பத்தின் மொத்த செலவை மாதிரியாக்குவதன் மூலம், ஆலோசகர்கள் மிகவும் நன்கு அறியப்பட்ட வழங்குநருக்கு இயல்புநிலைக்கு பதிலாக புறநிலை பரிந்துரைகளை வழங்க முடியும். அனைத்து பயன்பாட்டு நிகழ்வுகளிலும் எந்த ஒரு வழங்குநரும் ஆதிக்கம் செலுத்தாமல், உகந்த தேர்வு குறிப்பிட்ட பணிச்சுமை பண்புகளை பெரிதும் சார்ந்துள்ளது என்பதை இந்த பகுப்பாய்வு அடிக்கடி வெளிப்படுத்துகிறது.
சிறப்பு நிகழ்வுகள்
▾
மல்டி-டர்ன் உரையாடல் பணிச்சுமைகளுக்கான மாதிரிகளை ஒப்பிடும் போது, சூழல் சாளர அளவு மறைக்கப்பட்ட செலவு பெருக்கியை உருவாக்குகிறது.
பெரிய சூழல் சாளரங்களைக் கொண்ட மாதிரிகள் துண்டிக்கப்படாமல் நீண்ட உரையாடல்களைப் பராமரிக்க முடியும், ஆனால் நீண்ட உரையாடல் வரலாற்றை அனுப்புவது உள்ளீட்டு டோக்கன் செலவை நேர்கோட்டில் அதிகரிக்கிறது. நீங்கள் முழு வரலாற்றையும் அனுப்பும் மாதிரியில் 10-திருப்பு உரையாடல் இறுதித் திருப்பத்தில் 30,000 உள்ளீட்டு டோக்கன்களைப் பயன்படுத்தக்கூடும். நீங்கள் எந்த வழங்குநரை தேர்வு செய்தாலும் உரையாடல் சுருக்கம் அல்லது நெகிழ் சாளர துண்டிப்பை செயல்படுத்துவது இதை 60 முதல் 80 சதவீதம் வரை குறைக்கலாம்.
கட்டமைக்கப்பட்ட JSON வெளியீடு தேவைப்படும் பயன்பாடுகளுக்கு, சில மாதிரிகள்
கட்டமைக்கப்பட்ட JSON வெளியீடு தேவைப்படும் பயன்பாடுகளுக்கு, சில மாதிரிகள் மற்றவர்களை விட கணிசமாக நம்பகமானவை, இது மறு முயற்சி விகிதத்தை பாதிக்கிறது மற்றும் அதனால் பயனுள்ள செலவை பாதிக்கிறது. JSON பயன்முறையுடன் கூடிய GPT-4o மற்றும் கருவியைப் பயன்படுத்தும் Claude இரண்டும் உயர்-நம்பகத்தன்மை கொண்ட கட்டமைக்கப்பட்ட வெளியீட்டை வழங்குகின்றன, ஆனால் பிரத்யேக கட்டமைக்கப்பட்ட வெளியீட்டு முறைகள் இல்லாத மாதிரிகள் தவறான JSON 5 முதல் 15 சதவிகித நேரத்தை உருவாக்கலாம். ஒவ்வொரு மறுமுயற்சியும் அந்த கோரிக்கையின் விலையை இரட்டிப்பாக்குகிறது, எனவே 10 சதவீத மறுமுயற்சி விகிதம் அடிப்படை டோக்கன் விலைக்கு மேல் 10 சதவீதம் செலவுகளை திறம்பட அதிகரிக்கிறது.
சுய-ஹோஸ்ட் செய்யப்பட்ட ஓப்பன் சோர்ஸ் மாடல்களை மதிப்பிடும்போது, செலவு ஒப்பீடு அவசியம்
சுய-ஹோஸ்ட் செய்யப்பட்ட ஓப்பன் சோர்ஸ் மாடல்களை மதிப்பிடும்போது, செலவு ஒப்பீட்டில் ஜிபியு கம்ப்யூட் மட்டுமல்ல, அமைவு மற்றும் பராமரிப்புக்கான பொறியியல் நேரம், உள்கட்டமைப்பைக் கண்காணித்தல், vLLM அல்லது TGI போன்ற மாடல் சர்விங் ஃப்ரேம்வொர்க்குகள் மற்றும் அதிக நேரம் இல்லாத நேரத்தில் GPU குறைவாகப் பயன்படுத்துவதற்கான வாய்ப்புச் செலவு ஆகியவை அடங்கும். ஒரு குழு, மாதத்திற்கு 20 இன்ஜினியரிங் மணிநேரங்களைச் செலவழித்து, ஒரு மணி நேரத்திற்கு $150 என்ற சுய-ஹோஸ்ட் மாடலைப் பராமரிக்க, $3,000 தொழிலாளர் செலவில் சேர்க்கிறது, இது பெரும்பாலும் API-அடிப்படையிலான தீர்வுகளை மூலக் கம்ப்யூட் ஒப்பிடுவதை விட செலவு குறைந்ததாக ஆக்குகிறது.
மேஜர் LLM API விலை ஒப்பீடு (2025)
▾
| மாதிரி | வழங்குபவர் | உள்ளீடு (1Mக்கு) | வெளியீடு (1Mக்கு) | சூழல் சாளரம் | தொகுதி தள்ளுபடி |
|---|---|---|---|---|---|
| GPT-4o | OpenAI | $2.50 | $10.00 | 128K | 50% தள்ளுபடி |
| GPT-4o-mini | OpenAI | $0.15 | $0.60 | 128K | 50% தள்ளுபடி |
| கிளாட் சொனட் 4 | மானுடவியல் | $3.00 | $15.00 | 200K | 50% தள்ளுபடி |
| கிளாட் ஹைக்கூ | மானுடவியல் | $0.25 | $1.25 | 200K | 50% தள்ளுபடி |
| கிளாட் ஓபஸ் 4 | மானுடவியல் | $15.00 | $75.00 | 200K | 50% தள்ளுபடி |
| ஜெமினி 1.5 ப்ரோ | கூகுள் | $1.25 | $5.00 | 1M | N/A |
| ஜெமினி 1.5 ஃப்ளாஷ் | கூகுள் | $0.075 | $0.30 | 1M | N/A |
| லாமா 3 70B | சுயமாக நடத்தப்பட்டது | ~$0.50-1.00* | ~$0.50-1.00* | 8K-128K | N/A |
| மிஸ்ட்ரல் பெரியது | மிஸ்ட்ரல் | $2.00 | $6.00 | 128K | N/A |
அடிக்கடி கேட்கப்படும் கேள்விகள்
▾
ஒட்டுமொத்தமாக எந்த எல்எல்எம் மலிவானது?
மலிவான LLM எதுவும் இல்லை, ஏனெனில் செலவு உங்கள் குறிப்பிட்ட பணிச்சுமை பண்புகளைப் பொறுத்தது. உள்ளீடு-கடுமையான பணிகளுக்கு (நீண்ட ஆவணங்கள், குறுகிய பதில்கள்), ஒரு மில்லியன் டோக்கன்களுக்கு $0.075/$0.30 விலையில் ஜெமினி 1.5 ஃப்ளாஷ் பொதுவாக மலிவானது. சமநிலையான பணிச்சுமைகளுக்கு, $0.15/$0.60 இல் GPT-4o-mini சிறந்த மதிப்பை வழங்குகிறது. உள்ளடக்க உருவாக்கம் போன்ற வெளியீடு-கடுமையான பணிகளுக்கு, குறைந்த வெளியீட்டு விலை கொண்ட மாடல் வெற்றி பெறும். சுய-ஹோஸ்ட் செய்யப்பட்ட Llama 3 ஆனது API செலவில் மாதத்திற்கு சுமார் $2,000 முதல் $5,000 வரை மலிவானதாகிறது.
வெவ்வேறு மாதிரிகள் உரையை வித்தியாசமாக அடையாளப்படுத்துகின்றனவா?
ஆம், ஒவ்வொரு வழங்குநரும் வெவ்வேறு டோக்கனைசர்களைப் பயன்படுத்துகிறார்கள், அதாவது ஒரே உரை வெவ்வேறு டோக்கன் எண்ணிக்கையை உருவாக்குகிறது. GPT-4o cl100k_base (BPE) ஐப் பயன்படுத்துகிறது, கிளாட் இதே போன்ற BPE டோக்கனைசரைப் பயன்படுத்துகிறது, மற்றும் ஜெமினி SentencePiece ஐப் பயன்படுத்துகிறது. நடைமுறையில், டோக்கன் எண்ணிக்கைகள் ஆங்கில உரைக்கான வழங்குநர்களிடையே 5 முதல் 15 சதவீதம் வரையிலும், லத்தீன் அல்லாத எழுத்துகளுக்கு 30 சதவீதம் வரையிலும் மாறுபடும். துல்லியமான செலவு ஒப்பீட்டிற்கு, ஒவ்வொரு வழங்குநரின் டோக்கனைசருடன் உங்கள் மாதிரி உரையை டோக்கனைஸ் செய்யவும் அல்லது பழமைவாத மதிப்பீட்டைப் பயன்படுத்தவும்.
APIகளை விட சுய-ஹோஸ்டிங் எப்போது மலிவாக மாறும்?
உங்கள் மாதாந்திர API செலவு தோராயமாக $2,000 முதல் $5,000 வரை அதிகமாக இருக்கும்போது, கிளவுட் GPUகளில் Llama 3 70B போன்ற ஓப்பன் சோர்ஸ் மாடல்கள் சுய-ஹோஸ்டிங் செலவு குறைந்ததாக மாறும். ஒரு H100 GPU இல் Llama 3 70B ஐ இயக்குவதற்கு கிளவுட் வழங்குநரைப் பொறுத்து மாதத்திற்கு $2,000 முதல் $6,000 வரை செலவாகும். முழு பயன்பாட்டில், இந்த GPU ஆனது ஒரு வினாடிக்கு தோராயமாக 50 முதல் 100 கோரிக்கைகளை வழங்க முடியும், இது மாதத்திற்கு 130 முதல் 260 மில்லியன் கோரிக்கைகளுக்கு சமம். பிரேக்-ஈவன் கணிதம் உங்கள் பயன்பாட்டு விகிதத்தைப் பொறுத்தது.
விலை ஒப்பீடுகளில் தர வேறுபாடுகளை நான் எவ்வாறு கணக்கிடுவது?
உங்கள் உண்மையான பணிச்சுமையிலிருந்து 200 அல்லது அதற்கு மேற்பட்ட பிரதிநிதி கோரிக்கைகள் மீது குருட்டு மதிப்பீட்டை இயக்கவும். துல்லியம், முழுமை, வடிவமைப்பு மற்றும் எந்த டொமைன்-குறிப்பிட்ட அளவுகோல்களிலும் மதிப்பெண் வெளியீடுகள். வெற்றி விகிதத்தால் வகுக்கப்பட்ட API செலவாக பயனுள்ள செலவைக் கணக்கிடவும். மாடல் A 95 சதவீத வெற்றியுடன் ஒரு கோரிக்கைக்கு $0.005 செலவாகும் மற்றும் 80 சதவீத வெற்றியுடன் மாடல் B விலை $0.003 என்றால், மாடல் A செயல்திறன் செலவு $0.00526 மற்றும் மாடல் B $0.00375 ஆகும், ஆனால் மாடல் B க்கு அதன் சொந்த செலவைக் கொண்ட 20 சதவீத தோல்விகளைக் கையாள வேண்டும்.
நான் பல LLM வழங்குநர்களைப் பயன்படுத்த வேண்டுமா?
பல வழங்குநர் உத்திகள் விற்பனையாளர் லாக்-இன் ஆபத்தைக் குறைக்கின்றன மற்றும் ஒவ்வொன்றிற்கும் சிறந்த மதிப்பு வழங்குநருக்கு வெவ்வேறு பணி வகைகளை ரூட் செய்வதன் மூலம் செலவு மேம்படுத்தலை செயல்படுத்துகின்றன. இருப்பினும், அவை பல API ஒருங்கிணைப்புகளை பராமரிப்பதற்கும், வெவ்வேறு பதில் வடிவங்களைக் கையாளுவதற்கும் மற்றும் பல பில்லிங் உறவுகளை நிர்வகிப்பதற்கும் பொறியியல் சிக்கலைச் சேர்க்கின்றன. 80 முதல் 90 சதவீத போக்குவரத்திற்கு ஒரு முதன்மை வழங்குநரையும், தெளிவான நன்மைகளை வழங்கும் குறிப்பிட்ட பயன்பாட்டு நிகழ்வுகளுக்கு இரண்டாம் நிலை வழங்குநரையும் பயன்படுத்துவது நடைமுறை அணுகுமுறையாகும்.
தவிர்க்க வேண்டிய பொதுவான தவறுகள்
▾
- !தரத்தை கருத்தில் கொள்ளாமல் டோக்கன் விலையில் மட்டும் ஒப்பிடுதல்:
- !செலவுக் கணக்கீடுகளில் சூழல் சாளர வேறுபாடுகளைப் புறக்கணித்தல்:
- !வழங்குநர்கள் முழுவதும் தள்ளுபடி திட்டங்களுக்கான கணக்கு இல்லை:
நிபுணர் குறிப்பு
முதல் நாளிலிருந்தே உங்கள் விண்ணப்பத்தை மாதிரி சுருக்க அடுக்குடன் உருவாக்கவும், எனவே குறியீட்டை மீண்டும் எழுதுவதற்குப் பதிலாக உள்ளமைவு மாற்றத்துடன் வழங்குநர்களை மாற்றலாம். LiteLLM, LangChain மற்றும் Vercel AI SDK போன்ற நூலகங்கள் வழங்குநர்கள் முழுவதும் ஒருங்கிணைந்த இடைமுகங்களை வழங்குகின்றன. சில மணிநேர முன்கூட்டிய முதலீடு, சில வாரங்களுக்குப் பிறகு இடம்பெயர்வு வேலைகளைச் சேமிக்கும், மேலும் எந்தவொரு வழங்குநரிடமிருந்தும் புதிய விலை அல்லது சிறந்த மாடல்களை உடனடியாகப் பயன்படுத்திக் கொள்ள உங்களை அனுமதிக்கிறது.
உங்களுக்கு தெரியுமா?
500 உள்ளீடு மற்றும் 200 அவுட்புட் டோக்கன்களுடன் ஒரே ஒரு மில்லியன் கோரிக்கைகளைச் செயல்படுத்த ஒவ்வொரு பெரிய LLM APIயையும் நீங்கள் பயன்படுத்தினால், மொத்தச் செலவு ஜெமினி 1.5 ஃப்ளாஷில் $52.50 முதல் $11,250.00 வரை Claude Opus 4 இல் 214x விலை வித்தியாசம். இந்த மகத்தான வரம்பானது, AI இன்ஜினியரிங்கில், மாடல் தேர்வு என்பது மிக உயர்ந்த-செலவுத் தேர்வுமுறை முடிவுகளில் ஒன்றாகும்.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
வாராந்திர கணித உதவிக்குறிப்புகளைப் பெறுங்கள்
ஒவ்வொரு வாரமும் கால்குலேட்டர் உதவிக்குறிப்புகளைப் பெறும் 12,000+ சந்தாதாரர்களுடன் சேரவும்.