What is LLM Fine-Tuning Cost Calculator?
▾
LLM ફાઇન-ટ્યુનિંગ કોસ્ટ કેલ્ક્યુલેટર તમારા ચોક્કસ ડેટા પર પ્રી-ટ્યુનિંગ લેંગ્વેજ મોડલને કસ્ટમાઇઝ કરવાના કુલ ખર્ચનો અંદાજ કાઢે છે, જેમાં તાલીમની ગણતરી, ડેટાની તૈયારી, માન્યતા અને ફાઇન-ટ્યુન મોડલનો ઉપયોગ કરવાના ચાલુ અનુમાન ખર્ચ પ્રીમિયમને આવરી લેવામાં આવે છે. OpenAI GPT-4o-મિની ફાઇન-ટ્યુનિંગ માટે $8 પ્રતિ મિલિયન તાલીમ ટોકન્સ અને GPT-4o માટે $25 પ્રતિ મિલિયન ચાર્જ કરે છે. તાલીમ સામાન્ય રીતે તમારા ડેટાસેટ પર 3 થી 4 યુગો સુધી ચાલે છે, એટલે કે કુલ તાલીમ ટોકન્સ તમારા ડેટાસેટના કદને યુગની સંખ્યાથી ગુણાકાર કરે છે. જ્યારે એકલા પ્રોમ્પ્ટ એન્જિનિયરિંગ ઇચ્છિત આઉટપુટ ફોર્મેટ, ટોન અથવા ડોમેન કુશળતા પ્રાપ્ત કરી શકતું નથી ત્યારે ફાઇન-ટ્યુનિંગનો ઉપયોગ થાય છે. સામાન્ય ઉપયોગના કેસોમાં વિશિષ્ટ આઉટપુટ સ્કીમાને અનુસરવા, બ્રાન્ડ વૉઇસ સાથે મેળ ખાતી, કાયદો અથવા દવા જેવા ક્ષેત્રોમાં ડોમેન-વિશિષ્ટ પરિભાષાને હેન્ડલ કરવા અથવા વિશિષ્ટ વર્ગીકરણ કાર્યો પર પ્રદર્શન સુધારવા માટે તાલીમ મોડલ્સનો સમાવેશ થાય છે. ફાઇન-ટ્યુન કરવાનો નિર્ણય ખર્ચ-લાભ વિશ્લેષણ પર આધારિત હોવો જોઈએ, જેમાં એક-વખતની તાલીમ ખર્ચ વત્તા ચાલુ અનુમાન પ્રીમિયમની તુલના ઘણા ઓછા-શૉટ ઉદાહરણો સાથે લાંબા સમયના સંકેતોનો ઉપયોગ કરવાના વિકલ્પ સામે કરવામાં આવે છે. આ કેલ્ક્યુલેટર એમએલ એન્જિનિયરો અને ઉત્પાદન ટીમોને તે નક્કી કરવામાં મદદ કરે છે કે ફાઇન-ટ્યુનિંગ તેમના ઉપયોગના કેસ માટે આર્થિક રીતે વાજબી છે કે કેમ. ફાઇન-ટ્યુન કરેલ GPT-4o-મિની મોડલની કિંમત $0.30 પ્રતિ મિલિયન ઇનપુટ ટોકન્સ અને $1.20 પ્રતિ મિલિયન આઉટપુટ ટોકન્સ માટે છે, જે બેઝ મોડલની કિંમત કરતાં બમણી છે. જો ફાઇન-ટ્યુનિંગ તમને દરેક વિનંતીમાંથી 1,000-ટોકન થોડા-શૉટ પ્રોમ્પ્ટને દૂર કરવાની મંજૂરી આપે છે, તો ઘટેલા ઇનપુટ ટોકન્સ વાસ્તવમાં પ્રતિ-ટોકન દર ઊંચા હોવા છતાં ફાઇન-ટ્યુન કરેલ મોડેલને વિનંતી દીઠ સસ્તું બનાવી શકે છે.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
સૂત્ર
▾
કુલ ફાઇન-ટ્યુનિંગ ખર્ચ = તાલીમ ડેટાસેટ ટોકન્સ x યુગ x તાલીમ કિંમત 1M ટોકન્સ દીઠ / 1,000,000 + માન્યતા કિંમત + ડેટા તૈયારી મજૂર. ઉદાહરણ તરીકે, 3 યુગમાં 500,000 તાલીમ ટોકન્સ સાથે ફાઇન-ટ્યુનિંગ GPT-4o-mini: તાલીમ કિંમત = 500,000 x 3 x $8.00 / 1,000,000 = $12.00. જો ડેટા તૈયાર કરવામાં $75/કલાક 10 કલાકનો સમય લાગે છે, તો કુલ પ્રોજેક્ટ ખર્ચ = $12 + $750 = $762.Variable Legend
▾
| પ્રતીક | નામ | એકમ | વર્ણન |
|---|---|---|---|
| D | તાલીમ ડેટાસેટ કદ | tokens | JSONL ડેટાસેટમાં તમામ તાલીમ ઉદાહરણોમાં કુલ ટોકન ગણતરી, દરેક ઉદાહરણમાં સિસ્ટમ, વપરાશકર્તા અને સહાયક સંદેશ ટોકન્સના સરવાળા તરીકે ગણવામાં આવે છે. |
| E | તાલીમ યુગ | epochs | ફાઇન-ટ્યુનિંગ દરમિયાન તાલીમ ડેટાસેટમાંથી પસાર થતા સંપૂર્ણ પાસની સંખ્યા, સામાન્ય રીતે ઓપનએઆઈ મોડલ્સ માટે 3 થી 4, નાના ડેટાસેટ્સ પર વધુ પડતી ફિટિંગનું જોખમ વધુ યુગો સાથે. |
| P_train | મિલિયન ટોકન્સ દીઠ તાલીમ કિંમત | USD per 1M tokens | તાલીમ ગણતરી માટે ટોકન દીઠ ખર્ચ, હાલમાં GPT-4o-mini માટે $8 પ્રતિ મિલિયન ટોકન્સ અને GPT-4o ફાઇન-ટ્યુનિંગ માટે $25 પ્રતિ મિલિયન ટોકન્સ. |
| P_inf | ફાઇન-ટ્યુન્ડ અનુમાન કિંમત | USD per 1M tokens | ફાઇન-ટ્યુન કરેલ મોડલ માટે પ્રતિ-ટોકન અનુમાન ખર્ચ, જે સામાન્ય રીતે બેઝ મોડલ દર કરતાં 2x છે: $0.30/$1.20 ફાઇન-ટ્યુન કરેલ GPT-4o-mini માટે. |
| H | ડેટા તૈયાર કરવાના કલાકો | hours | તાલીમ ડેટા એકત્રિત કરવા, સાફ કરવા, ફોર્મેટ કરવા અને સમીક્ષા કરવા માટે જરૂરી માનવ શ્રમ કલાકો, જે સામાન્ય રીતે ફાઇન-ટ્યુનિંગ પ્રોજેક્ટ્સના સૌથી મોટા ખર્ચ ઘટકને રજૂ કરે છે. |
| R | પ્રાયોગિક રન | runs | ઉત્પાદન ગુણવત્તા સુધી પહોંચતા પહેલા ફાઇન-ટ્યુનિંગ પ્રયોગોની સંખ્યા, સામાન્ય રીતે દરેક વચ્ચે ડેટાસેટ અને હાઇપરપેરામીટર એડજસ્ટમેન્ટ સાથે 3 થી 5 ચાલે છે. |
How to LLM Fine-Tuning Cost Calculator
▾
- 1સિસ્ટમ, વપરાશકર્તા અને સહાયક સંદેશ જોડી સાથે જરૂરી JSONL ફોર્મેટમાં તમારા તાલીમ ડેટાસેટને તૈયાર કરો. દરેક ઉદાહરણ એ વર્તન દર્શાવવું જોઈએ કે તમે મોડેલ શીખવા માગો છો. ઓપનએઆઈ ઓછામાં ઓછા 10 ઉદાહરણોની ભલામણ કરે છે પરંતુ નોંધનીય ગુણવત્તા સુધારણા માટે 50 થી 100 સૂચવે છે. ઉચ્ચ-ગુણવત્તાવાળા તાલીમ ડેટાને બનાવવા, સમીક્ષા કરવા અને માન્ય કરવા માટે નોંધપાત્ર માનવ પ્રયત્નોની જરૂર છે, જે ઘણીવાર ફાઇન-ટ્યુનિંગ પ્રોજેક્ટ્સની સૌથી મોટી છુપી કિંમત છે.
- 2તમારા તાલીમ ડેટાસેટની ટોકન ગણતરીની ગણતરી કરો. દરેક તાલીમ ઉદાહરણ ટોકનાઇઝ્ડ છે, અને તમામ ઉદાહરણોની કુલ રકમ તમારી તાલીમની કિંમત નક્કી કરે છે. સરેરાશ 500 ટોકન્સ સાથેના 100 ઉદાહરણોનો ડેટાસેટ દરેક કુલ 50,000 ટોકન્સ છે. તાલીમનો ખર્ચ યુગની સંખ્યા (ડેટાસેટમાંથી સંપૂર્ણ પસાર) પર પણ આધાર રાખે છે, જેમાં OpenAI 3 થી 4 યુગોમાં ડિફોલ્ટ કરે છે. કુલ તાલીમ ટોકન્સ સમાન ડેટાસેટ ટોકન્સ યુગો દ્વારા ગુણાકાર કરે છે.
- 3ફાઇન-ટ્યુનિંગ માટે તમારું બેઝ મોડલ પસંદ કરો. GPT-4o-mini ફાઇન-ટ્યુનિંગનો ખર્ચ $8 પ્રતિ મિલિયન તાલીમ ટોકન્સ છે અને તે મોટાભાગના ઉપયોગના કિસ્સાઓ માટે યોગ્ય છે. GPT-4o ફાઇન-ટ્યુનિંગનો ખર્ચ $25 પ્રતિ મિલિયન તાલીમ ટોકન્સ છે અને તે એવા કાર્યો માટે આરક્ષિત છે જેમાં ઉચ્ચતમ મોડલ ક્ષમતાની જરૂર હોય છે. પસંદગી તેના આધારે હોવી જોઈએ કે શું બેઝ મોડલ (ફાઇન-ટ્યુનિંગ પહેલાં) યોગ્ય પ્રોમ્પ્ટિંગ સાથે તમારા કાર્ય માટે પૂરતું સક્ષમ છે.
- 4ફાઇન-ટ્યુનિંગ જોબ સબમિટ કરો અને પ્રગતિનું નિરીક્ષણ કરો. ડેટાસેટના કદના આધારે તાલીમ સામાન્ય રીતે 30 મિનિટથી કેટલાક કલાકોમાં પૂર્ણ થાય છે. ઓપનએઆઈ કોઈ વધારાની કમ્પ્યુટ ફી વિના માત્ર તાલીમ ટોકન્સનો ઉપયોગ કરે છે. તમે તમારા ડેટાસેટ પર પુનરાવર્તિત કરવા માટે બહુવિધ ફાઇન-ટ્યુનિંગ પ્રયોગો ચલાવી શકો છો, જેમાં પ્રત્યેક રનનો સંપૂર્ણ તાલીમ ખર્ચ થાય છે. ઉત્પાદન ગુણવત્તા સુધી પહોંચતા પહેલા 3 થી 5 પ્રાયોગિક રન માટેનું બજેટ.
- 5હોલ્ડ-આઉટ ટેસ્ટ સેટ સામે ફાઇન-ટ્યુન કરેલ મોડેલનું મૂલ્યાંકન કરો. થોડા-શોટ પ્રોમ્પ્ટીંગ સાથે બેઝ મોડેલ સામે ચોકસાઈ, ફોર્મેટ અનુપાલન અને આઉટપુટ ગુણવત્તાની તુલના કરો. જો ફાઈન-ટ્યુન કરેલ મોડલ પ્રોમ્પ્ટેડ બેઝ મોડલ કરતાં નોંધપાત્ર રીતે આગળ ન હોય, તો તાલીમ ખર્ચ અને ચાલુ અનુમાન પ્રીમિયમ વાજબી નથી. અંદાજે 30 થી 40 ટકા ફાઇન-ટ્યુનિંગ પ્રોજેક્ટ્સ સારી રીતે રચાયેલા પ્રોમ્પ્ટ્સ પર અર્થપૂર્ણ સુધારાઓ પેદા કરતા નથી.
- 6ચાલુ અનુમાન ખર્ચ પ્રીમિયમની ગણતરી કરો. બેઝ મોડલ માટે $0.15 અને $0.60ની સરખામણીમાં ફાઇન-ટ્યુન GPT-4o-મિની મોડલની કિંમત $0.30 પ્રતિ મિલિયન ઇનપુટ ટોકન્સ અને $1.20 પ્રતિ મિલિયન આઉટપુટ ટોકન્સ છે. આ 2x પ્રીમિયમ આઉટપુટ ગુણવત્તામાં સુધારણા, ઘટાડેલી પ્રોમ્પ્ટ લંબાઈ (વધુ થોડા-શોટ ઉદાહરણો નહીં), અથવા પોસ્ટ-પ્રોસેસિંગ માટે ઘટાડેલી જરૂરિયાત દ્વારા સરભર કરવું આવશ્યક છે. પેબેક અવધિ નક્કી કરવા માટે માસિક અનુમાન ખર્ચ તફાવતનું મોડેલ બનાવો.
- 7કુલ ROI ગણતરી કરો. એક-વખતની તાલીમ ખર્ચ, ડેટા તૈયારી મજૂર અને ચાલુ માસિક અનુમાન ખર્ચ તફાવત ઉમેરો. લાંબા પ્રોમ્પ્ટ્સ અથવા વધુ સક્ષમ (અને ખર્ચાળ) બેઝ મોડલ સાથે બેઝ મોડલનો ઉપયોગ કરવાના વિકલ્પ સાથે સરખામણી કરો. જ્યારે ગુણવત્તા સુધારણા ગ્રાહક સંતોષ, ભૂલ દર અથવા પ્રક્રિયા કાર્યક્ષમતા જેવા બિઝનેસ મેટ્રિક્સને માપદંડ અસર કરે છે ત્યારે ફાઇન-ટ્યુનિંગ રોકાણ વાજબી છે.
Worked Examples
▾
360,000 તાલીમ ટોકન્સ માટે તાલીમની ગણતરીની કિંમત ન્યૂનતમ $2.88 છે. વાસ્તવિક કિંમત 200 ઉચ્ચ-ગુણવત્તાવાળા ઇમેઇલ ઉદાહરણોને ક્યુરેટ કરવા માટે 15 કલાકની ડેટા તૈયારી છે. આ ફાઇન-ટ્યુનિંગ પ્રોજેક્ટ્સની લાક્ષણિકતા છે જ્યાં ડેટાની તૈયારી બજેટ પર પ્રભુત્વ ધરાવે છે.
તબીબી ડોમેન ફાઇન-ટ્યુનિંગ માટે નિષ્ણાત-સમીક્ષા કરાયેલ તાલીમ ડેટાની જરૂર છે, જે ડેટાની તૈયારીને ખર્ચાળ બનાવે છે. 1,200 ટોકન્સ પરના 500 ઉદાહરણો દરેક 4 યુગમાં 2.4 મિલિયન તાલીમ ટોકન્સનો ઉપયોગ $25 પ્રતિ મિલિયનના દરે કરે છે. ટોકન દીઠ ઊંચા દર હોવા છતાં, ડેટા તૈયાર કરવા માટે જરૂરી ક્લિનિકલ નિષ્ણાત સમય દ્વારા તાલીમની ગણતરીની કિંમત હજુ પણ ઓછી છે.
સરળ ફોર્મેટ અનુપાલન કાર્યો માટે, 50 ઉદાહરણો ઘણીવાર પૂરતા હોય છે. તાલીમ ખર્ચ $1 ની નીચે છે. GPT-4o-mini પર 1,000 વિનંતીઓ દીઠ $0.075ની બચત કરીને, ફાઇન-ટ્યુન કરેલ મોડેલ દરેક વિનંતીમાંથી 500-ટોકન JSON સ્કીમા પ્રોમ્પ્ટને દૂર કરી શકે છે. 100,000 માસિક વિનંતીઓ પર, દર મહિને $7.50 ની અનુમાનિત બચત 50 મહિનામાં $375ના રોકાણનું વળતર આપે છે, તેથી પ્રોમ્પ્ટ એન્જિનિયરિંગ અહીં વધુ ખર્ચ-અસરકારક છે.
Real-World Applications
▾
ઈ-કોમર્સ કંપનીઓ ચોક્કસ બ્રાન્ડ વૉઇસ અને ફોર્મેટમાં ઉત્પાદન વર્ણનો જનરેટ કરવા માટે GPT-4o-miniને ફાઇન-ટ્યુન કરે છે. 50,000 પ્રોડક્ટ્સ સાથેનો રિટેલર 200 ઉદાહરણ વર્ણનો બનાવે છે, ગણતરીમાં $3 માટે ફાઇન-ટ્યુન્સ અને ડેટા તૈયાર કરવા માટે કોપીરાઇટરના સમય માટે $1,500, પછી અંદાજે $10 માટે ફાઇન-ટ્યુન મોડલનો ઉપયોગ કરીને તમામ 50,000 વર્ણનો જનરેટ કરે છે. ઉત્પાદન દીઠ $5 પર દરેક વર્ણનને મેન્યુઅલી લખવાના વિકલ્પનો ખર્ચ $250,000 થશે, જેનાથી ફાઇન ટ્યુનિંગ 99.4 ટકા ખર્ચમાં ઘટાડો કરશે.
હેલ્થકેર કંપનીઓ ક્લિનિકલ નોંધોને SOAP (વિષયાત્મક, ઉદ્દેશ્ય, આકારણી, યોજના) જેવા પ્રમાણભૂત ફોર્મેટમાં સંરચિત કરવા માટે મોડલને ફાઇન-ટ્યુન કરે છે. એક હેલ્થ ટેક સ્ટાર્ટઅપ 500 નિષ્ણાત-સમીક્ષા કરેલ તાલીમ ઉદાહરણો તૈયાર કરે છે જે ચિકિત્સકના સમયમાં $5,000ના ખર્ચે તૈયાર કરે છે, $60માં ટ્રેન કરે છે અને દર મહિને 50,000 ક્લિનિકલ નોટ્સ પર પ્રક્રિયા કરવા માટે મોડેલનો ઉપયોગ કરે છે. ફાઇન-ટ્યુન્ડ મોડલ રોકાણને ન્યાયી ઠેરવતા માત્ર પ્રોમ્પ્ટ એન્જિનિયરિંગ સાથે 78 ટકાની સરખામણીમાં 95 ટકા ફોર્મેટિંગ ચોકસાઈ પ્રાપ્ત કરે છે.
નાણાકીય સેવાઓની કંપનીઓ નિયમનકારી અનુપાલન વર્ગીકરણ માટે મોડલને ફાઇન-ટ્યુન કરે છે, કોન્ટ્રેક્ટ અને પત્રવ્યવહારમાં ચોક્કસ નિયમનકારી જરૂરિયાતોને ઓળખવા માટે મોડેલને તાલીમ આપે છે. અનુપાલન ટીમ વિશ્લેષક સમયમાં $12,000ના ખર્ચે 4 અઠવાડિયામાં 300 એનોટેડ ઉદાહરણો બનાવે છે, $15માં ટ્રેન કરે છે અને દર મહિને 200,000 કોમ્યુનિકેશન્સને સ્ક્રીન કરવા માટે મોડલનો ઉપયોગ કરે છે. સ્ટાન્ડર્ડ પ્રોમ્પ્ટીંગ સાથેના બેઝ મોડલ કરતાં ફાઈન-ટ્યુન્ડ મોડલ 40 ટકા વધુ અનુપાલન મુદ્દાઓ કેચ કરે છે.
સોફ્ટવેર કંપનીઓ તેમના ચોક્કસ ફ્રેમવર્ક સંમેલનો અને કોડિંગ ધોરણોમાં કોડ જનરેટ કરવા માટે GPT-4o-miniને ફાઇન-ટ્યુન કરે છે. પ્લેટફોર્મ ટીમ તેમની શૈલી માર્ગદર્શિકા, $2 માટે ફાઇન-ટ્યુન્સને અનુસરીને કોડ ટ્રાન્સફોર્મેશનના 150 ઉદાહરણો બનાવે છે અને મોડેલને તેમના વિકાસકર્તા સાધનોમાં એકીકૃત કરે છે. વિકાસકર્તાઓ એઆઈ-સૂચવેલ કોડમાં 30 ટકા ઓછા શૈલી માર્ગદર્શિકા ઉલ્લંઘનની જાણ કરે છે, જે પુલ વિનંતી દીઠ સરેરાશ 15 મિનિટ દ્વારા કોડ સમીક્ષા ચક્ર ઘટાડે છે.
Special Cases
▾
જ્યારે બહુ-ભાષા સપોર્ટ માટે ફાઇન-ટ્યુનિંગ, તાલીમ ડેટામાં તમામ લક્ષ્ય ભાષાઓમાં ઉદાહરણો શામેલ હોવા જોઈએ.
માત્ર અંગ્રેજી ઉદાહરણો પર ફાઇન-ટ્યુન કરેલ મોડેલ અન્ય ભાષાઓમાં શીખેલા વર્તનને વિશ્વસનીય રીતે લાગુ કરશે નહીં. 10-ભાષાના જમાવટ માટે, તમારે ભાષા દીઠ અંદાજે 50 થી 100 ઉદાહરણોની જરૂર છે, જે ડેટા તૈયાર કરવાની કિંમતમાં 10x વધારો કરે છે. બહુભાષી ફાઇન-ટ્યુનિંગ માટે પ્રતિબદ્ધતા પહેલાં સારી રીતે રચાયેલ બહુભાષી સિસ્ટમ પ્રોમ્પ્ટ શૂન્ય તાલીમ ખર્ચે તુલનાત્મક પરિણામો પ્રાપ્ત કરી શકે છે કે કેમ તે ધ્યાનમાં લો.
હેલ્થકેર, ફાઇનાન્સ અથવા કાનૂની ડોમેન્સમાં સલામતી-નિર્ણાયક એપ્લિકેશનો માટે,
હેલ્થકેર, ફાઇનાન્સ અથવા કાનૂની ડોમેન્સમાં સલામતી-નિર્ણાયક એપ્લિકેશનો માટે, ફાઇન-ટ્યુન મોડલ્સને ડિપ્લોયમેન્ટ પહેલાં વ્યાપક રેડ-ટીમિંગ અને માન્યતાની જરૂર છે. આ માન્યતા પ્રક્રિયાની કિંમત (ડોમેન નિષ્ણાત સમીક્ષાના 50 થી 200 કલાક પ્રતિ કલાક $100 થી $300) 10 થી 50 ગણા ફાઇન-ટ્યુનિંગ ખર્ચને ઓળંગી શકે છે. નિયમન કરેલ ઉદ્યોગોમાં કોઈપણ ફાઈન-ટ્યુનિંગ પ્રોજેક્ટના ફરજિયાત ઘટક તરીકે આ માન્યતા માટેનું બજેટ, વૈકલ્પિક એડ-ઓન તરીકે નહીં.
પ્રોમ્પ્ટ લંબાઈ ઘટાડવા માટે ફાઇન-ટ્યુનિંગનો ઉપયોગ કરતી વખતે (થોડા-શૉટ ઉદાહરણો દૂર કરીને),
પ્રોમ્પ્ટ લંબાઈ ઘટાડવા માટે ફાઇન-ટ્યુનિંગનો ઉપયોગ કરતી વખતે (થોડા-શૉટ-ઉદાહરણોને દૂર કરીને), બ્રેક-ઇવન પોઇન્ટની કાળજીપૂર્વક ગણતરી કરો. જો ફાઇન-ટ્યુનિંગનો કુલ ખર્ચ $500 છે અને દરેક વિનંતીમાંથી થોડા-શૉટ ઉદાહરણોના 800 ટોકન્સ દૂર કરે છે, તો GPT-4o-mini પર વિનંતી દીઠ બચત ઇનપુટ ટોકન્સ માટે $0.00012 છે. તમારે એક વર્ષ દરમિયાન દર મહિને 4.17 મિલિયન વિનંતીઓ અથવા લગભગ 347,000 વિનંતીઓની જરૂર છે. જો તમારું વોલ્યુમ આ થ્રેશોલ્ડથી નીચે છે, તો લાંબા સમયના સંકેતો છતાં થોડા-શોટ અભિગમ વધુ આર્થિક છે.
OpenAI ફાઇન-ટ્યુનિંગ પ્રાઇસિંગ (2025)
▾
| મોડલ | તાલીમ (1M ટોકન્સ દીઠ) | અનુમાન ઇનપુટ | અનુમાન આઉટપુટ | બેઝ ઇનપુટ | બેઝ આઉટપુટ |
|---|---|---|---|---|---|
| GPT-4o-મિની | $8.00 | $0.30/1M | $1.20/1M | $0.15/1M | $0.60/1M |
| GPT-4o | $25.00 | $3.75/1M | $15.00/1M | $2.50/1M | $10.00/1M |
| GPT-3.5-ટર્બો | $8.00 | $3.00/1M | $6.00/1M | $0.50/1M | $1.50/1M |
Frequently Asked Questions
▾
મારે કેટલા તાલીમ ઉદાહરણોની જરૂર છે?
OpenAI ઓછામાં ઓછા 10 ઉદાહરણોની ભલામણ કરે છે પરંતુ અર્થપૂર્ણ ગુણવત્તા સુધારણા માટે 50 થી 100 સૂચવે છે. ડોમેન-વિશિષ્ટ સામગ્રી નિર્માણ જેવા જટિલ કાર્યો માટે, 200 થી 500 ઉદાહરણોની જરૂર પડી શકે છે. 500 ઉદાહરણો ઉપરાંત, ઘટતું વળતર સામાન્ય છે સિવાય કે તમારા કાર્યમાં ખૂબ જ ઊંચી પરિવર્તનક્ષમતા હોય. 50 ઉદાહરણોથી પ્રારંભ કરો, ગુણવત્તાનું મૂલ્યાંકન કરો અને વધારાના ડેટા સાથે મેટ્રિક્સમાં સુધારો થાય તો જ વધુ ઉમેરો.
શું પ્રોમ્પ્ટ એન્જિનિયરિંગની તુલનામાં ફાઇન-ટ્યુનિંગ કિંમત યોગ્ય છે?
ફાઇન-ટ્યુનિંગ તે યોગ્ય છે જ્યારે: ફાઇન-ટ્યુન કરેલ મોડેલ દરેક પ્રોમ્પ્ટમાંથી ખર્ચાળ થોડા-શોટ ઉદાહરણોને દૂર કરે છે (પ્રશિક્ષણ ખર્ચ કરતાં દર મહિને વધુ બચત કરે છે), કાર્યને સુસંગતતાની જરૂર હોય છે જે પ્રોમ્પ્ટ એન્જિનિયરિંગ પ્રાપ્ત કરી શકતું નથી, અથવા ગુણવત્તા સુધારણા આવક પર સીધી અસર કરે છે. જ્યારે પ્રોમ્પ્ટ એન્જિનિયરિંગ લક્ષ્ય ગુણવત્તાના 90 ટકા કે તેથી વધુ હાંસલ કરે છે, જ્યારે કાર્ય સરળ વર્ગીકરણ છે, અથવા જ્યારે ચાલુ પ્રીમિયમને ન્યાયી ઠેરવવા માટે અનુમાન વોલ્યુમ ખૂબ ઓછું હોય ત્યારે તે મૂલ્યવાન નથી.
ફાઇન-ટ્યુનિંગ કેટલો સમય લે છે?
ડેટાસેટના કદના આધારે OpenAI ફાઇન-ટ્યુનિંગ સામાન્ય રીતે 30 મિનિટથી 3 કલાકમાં પૂર્ણ થાય છે. ઉદાહરણ દીઠ 500 ટોકન્સ સાથેનો 100-ઉદાહરણ ડેટાસેટ એક કલાકની અંદર સમાપ્ત થાય છે. 1,000 ટોકન્સ સાથેના 1,000-ઉદાહરણ ડેટાસેટમાં 2 થી 3 કલાક લાગી શકે છે. જ્યારે તાલીમ પૂર્ણ થાય ત્યારે તમને ઈમેલ સૂચના પ્રાપ્ત થાય છે, અને ફાઈન-ટ્યુન કરેલ મોડલ અનન્ય મોડેલ ઓળખકર્તા સાથે API દ્વારા અનુમાન માટે તરત જ ઉપલબ્ધ છે.
શું હું માલિકીના ડેટા પર સુરક્ષિત રીતે ફાઇન-ટ્યુન કરી શકું?
હા, યોગ્ય સાવચેતીઓ સાથે. OpenAI તેમના મોડલને તાલીમ આપવા માટે API ડેટાનો ઉપયોગ કરતું નથી. ફાઇન-ટ્યુનિંગ ડેટા અસ્થાયી રૂપે તાલીમ પ્રક્રિયા માટે સંગ્રહિત થાય છે અને પછીથી કાઢી શકાય છે. કડક ડેટા ગવર્નન્સ જરૂરિયાતો ધરાવતી સંસ્થાઓ માટે, Azure OpenAI સેવા દ્વારા ફાઇન-ટ્યુનિંગનો વિચાર કરો જે વધારાના એન્ટરપ્રાઇઝ સુરક્ષા નિયંત્રણો, ડેટા આઇસોલેશન અને SOC 2 અને HIPAA સહિત અનુપાલન પ્રમાણપત્રો પ્રદાન કરે છે.
જો ફાઇન-ટ્યુનિંગ ગુણવત્તામાં સુધારો ન કરે તો શું થાય છે?
અંદાજે 30 થી 40 ટકા ફાઇન-ટ્યુનિંગ પ્રયાસો અર્થપૂર્ણ સુધારાઓ પેદા કરતા નથી. સામાન્ય કારણોમાં અપર્યાપ્ત અથવા ઓછી-ગુણવત્તાવાળા તાલીમ ડેટા, બેઝ મોડલ ક્ષમતા માટે ખૂબ જટિલ કાર્યો અને નાના ડેટાસેટ્સ પર ઓવરફિટિંગનો સમાવેશ થાય છે. જો તમારો પ્રથમ પ્રયાસ નિષ્ફળ જાય, તો તાલીમના ઉદાહરણોમાં 2 થી 3 ગણો વધારો કરવાનો પ્રયાસ કરો, નિષ્ણાત સમીક્ષા દ્વારા ઉદાહરણની ગુણવત્તામાં સુધારો કરો, યુગની સંખ્યાને સમાયોજિત કરો અથવા વધુ સક્ષમ બેઝ મોડેલ પર સ્વિચ કરો.
ફાઇન-ટ્યુન કરેલ મોડેલ અનુમાન કિંમત કેવી રીતે કાર્ય કરે છે?
ફાઇન-ટ્યુન કરેલ મોડલ્સનું બિલ બેઝ મોડલ રેટના આશરે 2x જેટલું છે. ફાઇન-ટ્યુન્ડ GPT-4o-miniની કિંમત $0.30 પ્રતિ મિલિયન ઇનપુટ ટોકન્સ અને $1.20 પ્રતિ મિલિયન આઉટપુટ ટોકન્સ સામે $0.15 અને $0.60 બેઝ મોડલ માટે છે. ફાઇન-ટ્યુન્ડ GPT-4o ની કિંમત $3.75 પ્રતિ મિલિયન ઇનપુટ અને $15.00 પ્રતિ મિલિયન આઉટપુટ સામે $2.50 અને $10.00 છે. હોસ્ટ કરેલ ફાઇન-ટ્યુન કરેલ મોડલ્સ સક્રિય હોવા પર કલાક દીઠ હોસ્ટિંગ ફી પણ લે છે.
Common Mistakes to Avoid
▾
- !એક્ઝોસ્ટિંગ પ્રોમ્પ્ટ એન્જિનિયરિંગ વિકલ્પો પહેલાં ફાઇન-ટ્યુનિંગ:
- !ડેટા તૈયારી ખર્ચને ઓછો અંદાજ:
- !ચાલુ અનુમાન ખર્ચ પ્રીમિયમ ભૂલી જવું:
Pro Tip
સંપૂર્ણ ફાઇન-ટ્યુનિંગ પ્રોજેક્ટ માટે પ્રતિબદ્ધતા પહેલાં, માત્ર 20 થી 30 ઉદાહરણો સાથે ઝડપી પ્રયોગ ચલાવો. જો ફાઇન-ટ્યુન કરેલ મોડેલ આ નાના ડેટાસેટ સાથે તમારા ટેસ્ટ સેટમાં માપી શકાય તેવો સુધારો દર્શાવે છે, તો તે સૂચવે છે કે તમારા કાર્ય માટે ફાઇન-ટ્યુનિંગ એ એક સક્ષમ વ્યૂહરચના છે. જો 30 ઉદાહરણોમાં કોઈ સુધારો દેખાતો નથી, તો વધુ ડેટા ઉમેરવાથી મદદ થવાની શક્યતા નથી, અને તમારે તપાસ કરવી જોઈએ કે બેઝ મોડેલ ક્ષમતા પૂરતી છે કે શું કાર્ય વ્યાખ્યાને શુદ્ધિકરણની જરૂર છે.
Did you know?
100 ઉચ્ચ-ગુણવત્તાવાળા ઉદાહરણો પર GPT-4o-miniને ફાઇન-ટ્યુન કરવા માટે ગણતરીની કિંમત આશરે $0.24 છે, જે વેન્ડિંગ મશીનમાંથી એક ગમબોલની કિંમત કરતાં ઓછી છે. વાસ્તવિક ખર્ચ હંમેશા તે 100 ઉદાહરણો બનાવવા માટે જરૂરી માનવ કુશળતા છે, જેનો સામાન્ય રીતે ગણતરી કરતાં 500 થી 2,000 ગણો વધુ ખર્ચ થાય છે. આ તુચ્છ ગણતરી ખર્ચ હોવા છતાં સૌથી વધુ માનવ-શ્રમ-સઘન AI તકનીકોમાંની એક ફાઇન-ટ્યુનિંગ બનાવે છે.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
References
સાપ્તાહિક ગણિત ટિપ્સ મેળવો
12,000+ સબ્સ્ક્રાઇબર્સ સાથે જોડાઓ કે જેઓ દર અઠવાડિયે કેલ્ક્યુલેટર ટીપ્સ મેળવે છે.