What is LLM Fine-Tuning Cost Calculator?
▾
LLM ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ವೆಚ್ಚ ಕ್ಯಾಲ್ಕುಲೇಟರ್ ನಿಮ್ಮ ನಿರ್ದಿಷ್ಟ ಡೇಟಾದ ಮೇಲೆ ಪೂರ್ವ-ತರಬೇತಿ ಪಡೆದ ಭಾಷಾ ಮಾದರಿಯನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡುವ ಒಟ್ಟು ವೆಚ್ಚವನ್ನು ಅಂದಾಜು ಮಾಡುತ್ತದೆ, ತರಬೇತಿ ಕಂಪ್ಯೂಟ್, ಡೇಟಾ ತಯಾರಿಕೆ, ಮೌಲ್ಯೀಕರಣ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯನ್ನು ಬಳಸುವ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. GPT-4o-mini ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗಾಗಿ OpenAI ಪ್ರತಿ ಮಿಲಿಯನ್ ತರಬೇತಿ ಟೋಕನ್‌ಗಳಿಗೆ $8 ಮತ್ತು GPT-4o ಗೆ $25 ಅನ್ನು ವಿಧಿಸುತ್ತದೆ. ತರಬೇತಿಯು ಸಾಮಾನ್ಯವಾಗಿ ನಿಮ್ಮ ಡೇಟಾಸೆಟ್‌ನಲ್ಲಿ 3 ರಿಂದ 4 ಯುಗಗಳವರೆಗೆ ನಡೆಯುತ್ತದೆ, ಅಂದರೆ ಒಟ್ಟು ತರಬೇತಿ ಟೋಕನ್‌ಗಳು ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಗಾತ್ರವನ್ನು ಯುಗಗಳ ಸಂಖ್ಯೆಯಿಂದ ಗುಣಿಸಿದಾಗ ಸಮನಾಗಿರುತ್ತದೆ. ಪ್ರಾಂಪ್ಟ್ ಇಂಜಿನಿಯರಿಂಗ್ ಮಾತ್ರ ಅಪೇಕ್ಷಿತ ಔಟ್ಪುಟ್ ಫಾರ್ಮ್ಯಾಟ್, ಟೋನ್ ಅಥವಾ ಡೊಮೇನ್ ಪರಿಣತಿಯನ್ನು ಸಾಧಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದಾಗ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅನ್ನು ಬಳಸಲಾಗುತ್ತದೆ. ಸಾಮಾನ್ಯ ಬಳಕೆಯ ಪ್ರಕರಣಗಳಲ್ಲಿ ನಿರ್ದಿಷ್ಟ ಔಟ್ಪುಟ್ ಸ್ಕೀಮಾಗಳನ್ನು ಅನುಸರಿಸಲು ತರಬೇತಿ ಮಾದರಿಗಳು ಸೇರಿವೆ, ಬ್ರಾಂಡ್ ಧ್ವನಿಯನ್ನು ಹೊಂದಿಸುವುದು, ಕಾನೂನು ಅಥವಾ ಔಷಧದಂತಹ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ಪರಿಭಾಷೆಯನ್ನು ನಿರ್ವಹಿಸುವುದು ಅಥವಾ ಸ್ಥಾಪಿತ ವರ್ಗೀಕರಣ ಕಾರ್ಯಗಳಲ್ಲಿ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸುವುದು. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುವ ನಿರ್ಧಾರವು ಒಂದು-ಬಾರಿ ತರಬೇತಿ ವೆಚ್ಚವನ್ನು ಹೋಲಿಸುವ ವೆಚ್ಚ-ಪ್ರಯೋಜನದ ವಿಶ್ಲೇಷಣೆಯನ್ನು ಆಧರಿಸಿರಬೇಕು ಮತ್ತು ಹಲವಾರು ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳೊಂದಿಗೆ ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಬಳಸುವ ಪರ್ಯಾಯದ ವಿರುದ್ಧ ನಡೆಯುತ್ತಿರುವ ನಿರ್ಣಯ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಆಧರಿಸಿರಬೇಕು. ಈ ಕ್ಯಾಲ್ಕುಲೇಟರ್ ML ಇಂಜಿನಿಯರ್‌ಗಳು ಮತ್ತು ಉತ್ಪನ್ನ ತಂಡಗಳು ತಮ್ಮ ಬಳಕೆಯ ಸಂದರ್ಭದಲ್ಲಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅನ್ನು ಆರ್ಥಿಕವಾಗಿ ಸಮರ್ಥಿಸಬಹುದೇ ಎಂದು ನಿರ್ಧರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ GPT-4o-ಮಿನಿ ಮಾದರಿಯು ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $0.30 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $1.20 ವೆಚ್ಚವಾಗುತ್ತದೆ, ಇದು ಮೂಲ ಮಾದರಿ ಬೆಲೆಯನ್ನು ದ್ವಿಗುಣಗೊಳಿಸುತ್ತದೆ. ಪ್ರತಿ ವಿನಂತಿಯಿಂದ 1,000-ಟೋಕನ್ ಕೆಲವು-ಶಾಟ್ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲು ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ನಿಮಗೆ ಅನುಮತಿಸಿದರೆ, ಕಡಿಮೆಯಾದ ಇನ್ಪುಟ್ ಟೋಕನ್‌ಗಳು ಹೆಚ್ಚಿನ ಪ್ರತಿ-ಟೋಕನ್ ದರದ ಹೊರತಾಗಿಯೂ ಪ್ರತಿ ವಿನಂತಿಗೆ ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯನ್ನು ಅಗ್ಗವಾಗಿಸಬಹುದು.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
ಸೂತ್ರ
▾
ಒಟ್ಟು ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ವೆಚ್ಚ = ತರಬೇತಿ ಡೇಟಾಸೆಟ್ ಟೋಕನ್‌ಗಳು x ಯುಗಗಳು x ಪ್ರತಿ 1M ಟೋಕನ್‌ಗಳಿಗೆ ತರಬೇತಿ ಬೆಲೆ / 1,000,000 + ಮೌಲ್ಯೀಕರಣ ವೆಚ್ಚ + ಡೇಟಾ ತಯಾರಿ ಕಾರ್ಮಿಕ. ಉದಾಹರಣೆಗೆ, 3 ಯುಗಗಳಲ್ಲಿ 500,000 ತರಬೇತಿ ಟೋಕನ್‌ಗಳೊಂದಿಗೆ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ GPT-4o-mini: ತರಬೇತಿ ವೆಚ್ಚ = 500,000 x 3 x $8.00 / 1,000,000 = $12.00. ಡೇಟಾ ತಯಾರಿಕೆಯು $75/hr ನಲ್ಲಿ 10 ಗಂಟೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡರೆ, ಒಟ್ಟು ಯೋಜನೆಯ ವೆಚ್ಚ = $12 + $750 = $762.Variable Legend
▾
| ಚಿಹ್ನೆ | ಹೆಸರು | ಘಟಕ | ವಿವರಣೆ |
|---|---|---|---|
| D | ತರಬೇತಿ ಡೇಟಾಸೆಟ್ ಗಾತ್ರ | tokens | JSONL ಡೇಟಾಸೆಟ್‌ನಲ್ಲಿನ ಎಲ್ಲಾ ತರಬೇತಿ ಉದಾಹರಣೆಗಳಲ್ಲಿ ಒಟ್ಟು ಟೋಕನ್ ಎಣಿಕೆ, ಪ್ರತಿ ಉದಾಹರಣೆಯಲ್ಲಿ ಸಿಸ್ಟಮ್, ಬಳಕೆದಾರ ಮತ್ತು ಸಹಾಯಕ ಸಂದೇಶ ಟೋಕನ್‌ಗಳ ಮೊತ್ತವಾಗಿ ಲೆಕ್ಕಹಾಕಲಾಗಿದೆ. |
| E | ತರಬೇತಿ ಯುಗಗಳು | epochs | ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಸಮಯದಲ್ಲಿ ತರಬೇತಿ ಡೇಟಾಸೆಟ್‌ನ ಮೂಲಕ ಸಂಪೂರ್ಣ ಪಾಸ್‌ಗಳ ಸಂಖ್ಯೆ, ಸಾಮಾನ್ಯವಾಗಿ ಓಪನ್‌ಎಐ ಮಾದರಿಗಳಿಗೆ 3 ರಿಂದ 4, ಸಣ್ಣ ಡೇಟಾಸೆಟ್‌ಗಳಲ್ಲಿ ಹೆಚ್ಚಿನ ಯುಗಗಳು ಅತಿಯಾಗಿ ಹೊಂದಿಕೊಳ್ಳುವ ಅಪಾಯವಿದೆ. |
| P_train | ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ ತರಬೇತಿ ಬೆಲೆ | USD per 1M tokens | ತರಬೇತಿ ಕಂಪ್ಯೂಟ್‌ಗೆ ಪ್ರತಿ ಟೋಕನ್ ವೆಚ್ಚ, ಪ್ರಸ್ತುತ GPT-4o-mini ಗೆ ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ $8 ಮತ್ತು GPT-4o ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗಾಗಿ ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ $25. |
| P_inf | ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಇನ್ಫರೆನ್ಸ್ ಬೆಲೆ | USD per 1M tokens | ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯ ಪ್ರತಿ-ಟೋಕನ್ ನಿರ್ಣಯದ ವೆಚ್ಚ, ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಮೂಲ ಮಾದರಿ ದರಕ್ಕಿಂತ 2x ಆಗಿದೆ: ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡಿದ GPT-4o-mini ಗೆ $0.30/$1.20. |
| H | ಡೇಟಾ ತಯಾರಿ ಸಮಯ | hours | ತರಬೇತಿ ಡೇಟಾವನ್ನು ಸಂಗ್ರಹಿಸಲು, ಸ್ವಚ್ಛಗೊಳಿಸಲು, ಫಾರ್ಮ್ಯಾಟ್ ಮಾಡಲು ಮತ್ತು ಪರಿಶೀಲಿಸಲು ಮಾನವ ಕಾರ್ಮಿಕ ಗಂಟೆಗಳ ಅಗತ್ಯವಿದೆ, ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಉತ್ತಮ-ಶ್ರುತಿ ಯೋಜನೆಗಳ ದೊಡ್ಡ ವೆಚ್ಚದ ಘಟಕವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. |
| R | ಪ್ರಾಯೋಗಿಕ ರನ್ಗಳು | runs | ಉತ್ಪಾದನಾ ಗುಣಮಟ್ಟವನ್ನು ತಲುಪುವ ಮೊದಲು ಉತ್ತಮ-ಶ್ರುತಿ ಪ್ರಯೋಗಗಳ ಸಂಖ್ಯೆ, ಪ್ರತಿಯೊಂದರ ನಡುವೆ ಡೇಟಾಸೆಟ್ ಮತ್ತು ಹೈಪರ್‌ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಾಣಿಕೆಗಳೊಂದಿಗೆ ಸಾಮಾನ್ಯವಾಗಿ 3 ರಿಂದ 5 ರನ್ಗಳು. |
How to LLM Fine-Tuning Cost Calculator
▾
- 1ಸಿಸ್ಟಮ್, ಬಳಕೆದಾರ ಮತ್ತು ಸಹಾಯಕ ಸಂದೇಶ ಜೋಡಿಗಳೊಂದಿಗೆ ಅಗತ್ಯವಿರುವ JSONL ಸ್ವರೂಪದಲ್ಲಿ ನಿಮ್ಮ ತರಬೇತಿ ಡೇಟಾಸೆಟ್ ಅನ್ನು ತಯಾರಿಸಿ. ಪ್ರತಿಯೊಂದು ಉದಾಹರಣೆಯು ಮಾದರಿಯು ಕಲಿಯಲು ನೀವು ಬಯಸುವ ನಡವಳಿಕೆಯನ್ನು ಪ್ರದರ್ಶಿಸಬೇಕು. OpenAI ಕನಿಷ್ಠ 10 ಉದಾಹರಣೆಗಳನ್ನು ಶಿಫಾರಸು ಮಾಡುತ್ತದೆ ಆದರೆ ಗಮನಾರ್ಹ ಗುಣಮಟ್ಟದ ಸುಧಾರಣೆಗಳಿಗಾಗಿ 50 ರಿಂದ 100 ಅನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಉತ್ತಮ-ಗುಣಮಟ್ಟದ ತರಬೇತಿ ಡೇಟಾಗೆ ರಚಿಸಲು, ಪರಿಶೀಲಿಸಲು ಮತ್ತು ಮೌಲ್ಯೀಕರಿಸಲು ಗಮನಾರ್ಹವಾದ ಮಾನವ ಪ್ರಯತ್ನದ ಅಗತ್ಯವಿರುತ್ತದೆ, ಇದು ಉತ್ತಮ-ಶ್ರುತಿ ಯೋಜನೆಗಳ ದೊಡ್ಡ ಗುಪ್ತ ವೆಚ್ಚವಾಗಿದೆ.
- 2ನಿಮ್ಮ ತರಬೇತಿ ಡೇಟಾಸೆಟ್‌ನ ಟೋಕನ್ ಎಣಿಕೆಯನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಿ. ಪ್ರತಿಯೊಂದು ತರಬೇತಿ ಉದಾಹರಣೆಯನ್ನು ಟೋಕನೈಸ್ ಮಾಡಲಾಗಿದೆ, ಮತ್ತು ಎಲ್ಲಾ ಉದಾಹರಣೆಗಳಲ್ಲಿ ಒಟ್ಟು ನಿಮ್ಮ ತರಬೇತಿ ವೆಚ್ಚವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ. ಸರಾಸರಿ 500 ಟೋಕನ್‌ಗಳನ್ನು ಹೊಂದಿರುವ 100 ಉದಾಹರಣೆಗಳ ಡೇಟಾಸೆಟ್ ಪ್ರತಿಯೊಂದೂ ಒಟ್ಟು 50,000 ಟೋಕನ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ. ತರಬೇತಿ ವೆಚ್ಚವು ಯುಗಗಳ ಸಂಖ್ಯೆಯನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ (ಡೇಟಾಸೆಟ್ ಮೂಲಕ ಸಂಪೂರ್ಣ ಹಾದುಹೋಗುತ್ತದೆ), OpenAI 3 ರಿಂದ 4 ಯುಗಗಳಿಗೆ ಪೂರ್ವನಿಯೋಜಿತವಾಗಿರುತ್ತದೆ. ಒಟ್ಟು ತರಬೇತಿ ಟೋಕನ್‌ಗಳು ಸಮಾನ ಡೇಟಾಸೆಟ್ ಟೋಕನ್‌ಗಳನ್ನು ಯುಗಗಳಿಂದ ಗುಣಿಸಲಾಗುತ್ತದೆ.
- 3ಉತ್ತಮ-ಶ್ರುತಿಗಾಗಿ ನಿಮ್ಮ ಮೂಲ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ. GPT-4o-mini ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಪ್ರತಿ ಮಿಲಿಯನ್ ತರಬೇತಿ ಟೋಕನ್‌ಗಳಿಗೆ $8 ವೆಚ್ಚವಾಗುತ್ತದೆ ಮತ್ತು ಹೆಚ್ಚಿನ ಬಳಕೆಯ ಸಂದರ್ಭಗಳಿಗೆ ಸೂಕ್ತವಾಗಿದೆ. GPT-4o ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಪ್ರತಿ ಮಿಲಿಯನ್ ತರಬೇತಿ ಟೋಕನ್‌ಗಳಿಗೆ $25 ವೆಚ್ಚವಾಗುತ್ತದೆ ಮತ್ತು ಹೆಚ್ಚಿನ ಮಾದರಿ ಸಾಮರ್ಥ್ಯದ ಅಗತ್ಯವಿರುವ ಕಾರ್ಯಗಳಿಗಾಗಿ ಕಾಯ್ದಿರಿಸಲಾಗಿದೆ. ಬೇಸ್ ಮಾಡೆಲ್ (ಸೂಕ್ಷ್ಮ-ಶ್ರುತಿ ಮಾಡುವ ಮೊದಲು) ಸೂಕ್ತವಾದ ಪ್ರಾಂಪ್ಟಿಂಗ್‌ನೊಂದಿಗೆ ನಿಮ್ಮ ಕಾರ್ಯಕ್ಕೆ ಸಾಕಷ್ಟು ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದೆಯೇ ಎಂಬುದನ್ನು ಆಯ್ಕೆಯು ಆಧರಿಸಿರಬೇಕು.
- 4ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಕೆಲಸವನ್ನು ಸಲ್ಲಿಸಿ ಮತ್ತು ಪ್ರಗತಿಯನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ. ಡೇಟಾಸೆಟ್ ಗಾತ್ರವನ್ನು ಅವಲಂಬಿಸಿ ತರಬೇತಿಯು ಸಾಮಾನ್ಯವಾಗಿ 30 ನಿಮಿಷಗಳಿಂದ ಹಲವಾರು ಗಂಟೆಗಳವರೆಗೆ ಪೂರ್ಣಗೊಳ್ಳುತ್ತದೆ. ಯಾವುದೇ ಹೆಚ್ಚುವರಿ ಕಂಪ್ಯೂಟ್ ಶುಲ್ಕವಿಲ್ಲದೆ, ಸೇವಿಸುವ ತರಬೇತಿ ಟೋಕನ್‌ಗಳಿಗೆ ಮಾತ್ರ OpenAI ಶುಲ್ಕ ವಿಧಿಸುತ್ತದೆ. ನಿಮ್ಮ ಡೇಟಾಸೆಟ್‌ನಲ್ಲಿ ಪುನರಾವರ್ತನೆ ಮಾಡಲು ನೀವು ಬಹು ಸೂಕ್ಷ್ಮ-ಶ್ರುತಿ ಪ್ರಯೋಗಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು, ಪ್ರತಿ ರನ್ ಸಂಪೂರ್ಣ ತರಬೇತಿ ವೆಚ್ಚವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. ಉತ್ಪಾದನಾ ಗುಣಮಟ್ಟವನ್ನು ತಲುಪುವ ಮೊದಲು 3 ರಿಂದ 5 ಪ್ರಾಯೋಗಿಕ ರನ್‌ಗಳಿಗೆ ಬಜೆಟ್.
- 5ಹೋಲ್ಡ್-ಔಟ್ ಟೆಸ್ಟ್ ಸೆಟ್ ವಿರುದ್ಧ ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ. ಕೆಲವು-ಶಾಟ್ ಪ್ರಾಂಪ್ಟಿಂಗ್‌ನೊಂದಿಗೆ ಮೂಲ ಮಾದರಿಯ ವಿರುದ್ಧ ನಿಖರತೆ, ಫಾರ್ಮ್ಯಾಟ್ ಅನುಸರಣೆ ಮತ್ತು ಔಟ್ಪುಟ್ ಗುಣಮಟ್ಟವನ್ನು ಹೋಲಿಕೆ ಮಾಡಿ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಪ್ರಾಂಪ್ಟ್ ಮಾಡಲಾದ ಬೇಸ್ ಮಾಡೆಲ್ ಅನ್ನು ಗಣನೀಯವಾಗಿ ಮೀರಿಸದಿದ್ದರೆ, ತರಬೇತಿ ವೆಚ್ಚ ಮತ್ತು ನಡೆಯುತ್ತಿರುವ ನಿರ್ಣಯದ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಸಮರ್ಥಿಸಲಾಗುವುದಿಲ್ಲ. ಸರಿಸುಮಾರು 30 ರಿಂದ 40 ಪ್ರತಿಶತ ಉತ್ತಮ-ಶ್ರುತಿ ಯೋಜನೆಗಳು ಉತ್ತಮವಾಗಿ ರಚಿಸಲಾದ ಪ್ರಾಂಪ್ಟ್‌ಗಳಿಗಿಂತ ಅರ್ಥಪೂರ್ಣ ಸುಧಾರಣೆಗಳನ್ನು ಉಂಟುಮಾಡುವುದಿಲ್ಲ.
- 6ನಡೆಯುತ್ತಿರುವ ನಿರ್ಣಯ ವೆಚ್ಚದ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಿ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ GPT-4o-ಮಿನಿ ಮಾದರಿಗಳು ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $0.30 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $1.20 ವೆಚ್ಚವಾಗುತ್ತದೆ, ಮೂಲ ಮಾದರಿಗೆ $0.15 ಮತ್ತು $0.60 ಗೆ ಹೋಲಿಸಿದರೆ. ಈ 2x ಪ್ರೀಮಿಯಂ ಅನ್ನು ಔಟ್ಪುಟ್ ಗುಣಮಟ್ಟದಲ್ಲಿನ ಸುಧಾರಣೆಗಳು, ಕಡಿಮೆ ಪ್ರಾಂಪ್ಟ್ ಉದ್ದ (ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳಿಲ್ಲ) ಅಥವಾ ನಂತರದ ಸಂಸ್ಕರಣೆಯ ಅಗತ್ಯವನ್ನು ಕಡಿಮೆ ಮಾಡಬೇಕು. ಮರುಪಾವತಿ ಅವಧಿಯನ್ನು ನಿರ್ಧರಿಸಲು ಮಾಸಿಕ ನಿರ್ಣಯ ವೆಚ್ಚ ವ್ಯತ್ಯಾಸವನ್ನು ಮಾದರಿ ಮಾಡಿ.
- 7ಒಟ್ಟು ROI ಲೆಕ್ಕಾಚಾರವನ್ನು ನಿರ್ವಹಿಸಿ. ಒಂದು-ಬಾರಿಯ ತರಬೇತಿ ವೆಚ್ಚ, ಡೇಟಾ ತಯಾರಿಕಾ ಕಾರ್ಮಿಕರು ಮತ್ತು ನಡೆಯುತ್ತಿರುವ ಮಾಸಿಕ ನಿರ್ಣಯ ವೆಚ್ಚದ ವ್ಯತ್ಯಾಸವನ್ನು ಸೇರಿಸಿ. ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಅಥವಾ ಹೆಚ್ಚು ಸಮರ್ಥ (ಮತ್ತು ದುಬಾರಿ) ಬೇಸ್ ಮಾದರಿಯೊಂದಿಗೆ ಬೇಸ್ ಮಾಡೆಲ್ ಅನ್ನು ಬಳಸುವ ಪರ್ಯಾಯದ ವಿರುದ್ಧ ಹೋಲಿಕೆ ಮಾಡಿ. ಗುಣಮಟ್ಟದ ಸುಧಾರಣೆಯು ಗ್ರಾಹಕರ ತೃಪ್ತಿ, ದೋಷ ದರಗಳು ಅಥವಾ ಸಂಸ್ಕರಣಾ ದಕ್ಷತೆಯಂತಹ ವ್ಯಾಪಾರದ ಮೆಟ್ರಿಕ್‌ಗಳ ಮೇಲೆ ಅಳೆಯಬಹುದಾದ ಪ್ರಭಾವವನ್ನು ಬೀರಿದಾಗ ಉತ್ತಮ-ಶ್ರುತಿ ಹೂಡಿಕೆಯನ್ನು ಸಮರ್ಥಿಸಲಾಗುತ್ತದೆ.
Worked Examples
▾
360,000 ತರಬೇತಿ ಟೋಕನ್‌ಗಳಿಗೆ ತರಬೇತಿ ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವು ಕನಿಷ್ಠ $2.88 ಆಗಿದೆ. 200 ಉನ್ನತ-ಗುಣಮಟ್ಟದ ಇಮೇಲ್ ಉದಾಹರಣೆಗಳನ್ನು ಕ್ಯುರೇಟ್ ಮಾಡಲು 15 ಗಂಟೆಗಳ ಡೇಟಾ ತಯಾರಿಕೆಯು ನೈಜ ವೆಚ್ಚವಾಗಿದೆ. ಡೇಟಾ ತಯಾರಿಕೆಯು ಬಜೆಟ್‌ನಲ್ಲಿ ಪ್ರಾಬಲ್ಯ ಹೊಂದಿರುವ ಉತ್ತಮ-ಶ್ರುತಿ ಯೋಜನೆಗಳಿಗೆ ಇದು ವಿಶಿಷ್ಟವಾಗಿದೆ.
ವೈದ್ಯಕೀಯ ಡೊಮೇನ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಪರಿಣಿತ-ಪರಿಶೀಲಿಸಿದ ತರಬೇತಿ ಡೇಟಾ ಅಗತ್ಯವಿರುತ್ತದೆ, ಇದು ಡೇಟಾ ತಯಾರಿಕೆಯನ್ನು ದುಬಾರಿಯಾಗಿಸುತ್ತದೆ. 1,200 ಟೋಕನ್‌ಗಳಲ್ಲಿರುವ 500 ಉದಾಹರಣೆಗಳು 4 ಯುಗಗಳಲ್ಲಿ ಪ್ರತಿ ಮಿಲಿಯನ್‌ಗೆ $25 ರಂತೆ 2.4 ಮಿಲಿಯನ್ ತರಬೇತಿ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಹೆಚ್ಚಿನ ಪ್ರತಿ-ಟೋಕನ್ ದರದ ಹೊರತಾಗಿಯೂ, ತರಬೇತಿ ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವು ಡೇಟಾ ತಯಾರಿಕೆಗೆ ಅಗತ್ಯವಿರುವ ಕ್ಲಿನಿಕಲ್ ತಜ್ಞರ ಸಮಯದಿಂದ ಕುಬ್ಜವಾಗಿದೆ.
ಸರಳ ಸ್ವರೂಪದ ಅನುಸರಣೆ ಕಾರ್ಯಗಳಿಗಾಗಿ, 50 ಉದಾಹರಣೆಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಸಾಕಾಗುತ್ತದೆ. ತರಬೇತಿ ವೆಚ್ಚವು $1 ಕ್ಕಿಂತ ಕಡಿಮೆಯಿದೆ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಪ್ರತಿ ವಿನಂತಿಯಿಂದ 500-ಟೋಕನ್ JSON ಸ್ಕೀಮಾ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ತೆಗೆದುಹಾಕಬಹುದು, GPT-4o-mini ನಲ್ಲಿ 1,000 ವಿನಂತಿಗಳಿಗೆ $0.075 ಉಳಿಸುತ್ತದೆ. 100,000 ಮಾಸಿಕ ವಿನಂತಿಗಳಲ್ಲಿ, ಪ್ರತಿ ತಿಂಗಳಿಗೆ $7.50 ರ ತೀರ್ಮಾನದ ಉಳಿತಾಯವು 50 ತಿಂಗಳುಗಳಲ್ಲಿ $375 ಹೂಡಿಕೆಯನ್ನು ಹಿಂದಿರುಗಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್ ಇಲ್ಲಿ ಹೆಚ್ಚು ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿಯಾಗಿದೆ.
Real-World Applications
▾
ನಿರ್ದಿಷ್ಟ ಬ್ರ್ಯಾಂಡ್ ಧ್ವನಿ ಮತ್ತು ಸ್ವರೂಪದಲ್ಲಿ ಉತ್ಪನ್ನ ವಿವರಣೆಗಳನ್ನು ರಚಿಸಲು ಇ-ಕಾಮರ್ಸ್ ಕಂಪನಿಗಳು GPT-4o-mini ಅನ್ನು ಉತ್ತಮಗೊಳಿಸುತ್ತವೆ. 50,000 ಉತ್ಪನ್ನಗಳನ್ನು ಹೊಂದಿರುವ ಚಿಲ್ಲರೆ ವ್ಯಾಪಾರಿಯು 200 ಉದಾಹರಣೆ ವಿವರಣೆಗಳನ್ನು ರಚಿಸುತ್ತಾನೆ, ಕಂಪ್ಯೂಟ್‌ನಲ್ಲಿ $3 ಗೆ ಉತ್ತಮ-ಟ್ಯೂನ್‌ಗಳು ಮತ್ತು ಡೇಟಾ ತಯಾರಿಗಾಗಿ ಕಾಪಿರೈಟರ್ ಸಮಯದಲ್ಲಿ $1,500, ನಂತರ ಸರಿಸುಮಾರು $10 ತೀರ್ಮಾನಕ್ಕೆ ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯನ್ನು ಬಳಸಿಕೊಂಡು ಎಲ್ಲಾ 50,000 ವಿವರಣೆಗಳನ್ನು ರಚಿಸುತ್ತಾನೆ. ಪ್ರತಿ ಉತ್ಪನ್ನಕ್ಕೆ $5 ರಂತೆ ಪ್ರತಿ ವಿವರಣೆಯನ್ನು ಹಸ್ತಚಾಲಿತವಾಗಿ ಬರೆಯುವ ಪರ್ಯಾಯವು $250,000 ವೆಚ್ಚವಾಗುತ್ತದೆ, ಉತ್ತಮ-ಶ್ರುತಿಗೊಳಿಸುವಿಕೆಯು 99.4 ಪ್ರತಿಶತದಷ್ಟು ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
ಹೆಲ್ತ್‌ಕೇರ್ ಕಂಪನಿಗಳು ಕ್ಲಿನಿಕಲ್ ಟಿಪ್ಪಣಿಗಳನ್ನು SOAP (ವಿಷಯನಿಷ್ಠ, ಉದ್ದೇಶ, ಮೌಲ್ಯಮಾಪನ, ಯೋಜನೆ) ನಂತಹ ಪ್ರಮಾಣಿತ ಸ್ವರೂಪಗಳಿಗೆ ರೂಪಿಸಲು ಮಾದರಿಗಳನ್ನು ಉತ್ತಮಗೊಳಿಸುತ್ತವೆ. ಆರೋಗ್ಯ ತಂತ್ರಜ್ಞಾನದ ಪ್ರಾರಂಭವು ವೈದ್ಯರ ಸಮಯದಲ್ಲಿ $5,000 ವೆಚ್ಚದಲ್ಲಿ 500 ಪರಿಣಿತ-ಪರಿಶೀಲಿಸಿದ ತರಬೇತಿ ಉದಾಹರಣೆಗಳನ್ನು ಸಿದ್ಧಪಡಿಸುತ್ತದೆ, $60 ಗೆ ತರಬೇತಿ ನೀಡುತ್ತದೆ ಮತ್ತು ತಿಂಗಳಿಗೆ 50,000 ಕ್ಲಿನಿಕಲ್ ಟಿಪ್ಪಣಿಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು ಮಾದರಿಯನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಹೂಡಿಕೆಯನ್ನು ಸಮರ್ಥಿಸುವ ಪ್ರಾಂಪ್ಟ್ ಇಂಜಿನಿಯರಿಂಗ್‌ನೊಂದಿಗೆ 78 ಪ್ರತಿಶತಕ್ಕೆ ಹೋಲಿಸಿದರೆ 95 ಪ್ರತಿಶತ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ನಿಖರತೆಯನ್ನು ಸಾಧಿಸುತ್ತದೆ.
ಹಣಕಾಸು ಸೇವೆಗಳ ಸಂಸ್ಥೆಗಳು ನಿಯಂತ್ರಕ ಅನುಸರಣೆ ವರ್ಗೀಕರಣಕ್ಕಾಗಿ ಮಾದರಿಗಳನ್ನು ಉತ್ತಮಗೊಳಿಸುತ್ತವೆ, ಒಪ್ಪಂದಗಳು ಮತ್ತು ಪತ್ರವ್ಯವಹಾರಗಳಲ್ಲಿ ನಿರ್ದಿಷ್ಟ ನಿಯಂತ್ರಕ ಅವಶ್ಯಕತೆಗಳನ್ನು ಗುರುತಿಸಲು ಮಾದರಿಯನ್ನು ತರಬೇತಿ ನೀಡುತ್ತವೆ. ಅನುಸರಣೆ ತಂಡವು ವಿಶ್ಲೇಷಕರ ಸಮಯದಲ್ಲಿ $12,000 ವೆಚ್ಚದಲ್ಲಿ 4 ವಾರಗಳಲ್ಲಿ 300 ಟಿಪ್ಪಣಿಗಳನ್ನು ರಚಿಸುತ್ತದೆ, $15 ಗೆ ತರಬೇತಿ ನೀಡುತ್ತದೆ ಮತ್ತು ತಿಂಗಳಿಗೆ 200,000 ಸಂವಹನಗಳನ್ನು ಪ್ರದರ್ಶಿಸಲು ಮಾದರಿಯನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಸ್ಟ್ಯಾಂಡರ್ಡ್ ಪ್ರಾಂಪ್ಟಿಂಗ್‌ನೊಂದಿಗೆ ಮೂಲ ಮಾದರಿಗಿಂತ 40 ಪ್ರತಿಶತ ಹೆಚ್ಚಿನ ಅನುಸರಣೆ ಸಮಸ್ಯೆಗಳನ್ನು ಸೆಳೆಯುತ್ತದೆ.
ಸಾಫ್ಟ್‌ವೇರ್ ಕಂಪನಿಗಳು ತಮ್ಮ ನಿರ್ದಿಷ್ಟ ಚೌಕಟ್ಟಿನ ಸಂಪ್ರದಾಯಗಳು ಮತ್ತು ಕೋಡಿಂಗ್ ಮಾನದಂಡಗಳಲ್ಲಿ ಕೋಡ್ ಅನ್ನು ರಚಿಸಲು GPT-4o-mini ಅನ್ನು ಉತ್ತಮಗೊಳಿಸುತ್ತವೆ. ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ತಂಡವು ಅವರ ಶೈಲಿಯ ಮಾರ್ಗದರ್ಶಿಯನ್ನು ಅನುಸರಿಸಿ ಕೋಡ್ ರೂಪಾಂತರಗಳ 150 ಉದಾಹರಣೆಗಳನ್ನು ರಚಿಸುತ್ತದೆ, $2 ಗಾಗಿ ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡುತ್ತದೆ ಮತ್ತು ಮಾದರಿಯನ್ನು ಅವರ ಡೆವಲಪರ್ ಪರಿಕರಗಳಲ್ಲಿ ಸಂಯೋಜಿಸುತ್ತದೆ. ಡೆವಲಪರ್‌ಗಳು AI- ಸೂಚಿಸಿದ ಕೋಡ್‌ನಲ್ಲಿ 30 ಪ್ರತಿಶತ ಕಡಿಮೆ ಶೈಲಿಯ ಮಾರ್ಗದರ್ಶಿ ಉಲ್ಲಂಘನೆಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತಾರೆ, ಪ್ರತಿ ಪುಲ್ ವಿನಂತಿಗೆ ಸರಾಸರಿ 15 ನಿಮಿಷಗಳಷ್ಟು ಕೋಡ್ ವಿಮರ್ಶೆ ಚಕ್ರಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತಾರೆ.
Special Cases
▾
ಬಹು-ಭಾಷಾ ಬೆಂಬಲಕ್ಕಾಗಿ ಉತ್ತಮ-ಶ್ರುತಿಗೊಳಿಸುವಾಗ, ತರಬೇತಿ ಡೇಟಾವು ಎಲ್ಲಾ ಗುರಿ ಭಾಷೆಗಳಲ್ಲಿ ಉದಾಹರಣೆಗಳನ್ನು ಒಳಗೊಂಡಿರಬೇಕು.
ಇಂಗ್ಲಿಷ್ ಉದಾಹರಣೆಗಳಲ್ಲಿ ಮಾತ್ರ ಉತ್ತಮವಾಗಿ-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಇತರ ಭಾಷೆಗಳಿಗೆ ಕಲಿತ ನಡವಳಿಕೆಯನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಅನ್ವಯಿಸುವುದಿಲ್ಲ. 10-ಭಾಷೆಯ ನಿಯೋಜನೆಗಾಗಿ, ನಿಮಗೆ ಪ್ರತಿ ಭಾಷೆಗೆ ಸರಿಸುಮಾರು 50 ರಿಂದ 100 ಉದಾಹರಣೆಗಳ ಅಗತ್ಯವಿದೆ, ಡೇಟಾ ತಯಾರಿಕೆಯ ವೆಚ್ಚವನ್ನು 10x ಹೆಚ್ಚಿಸುತ್ತದೆ. ಬಹುಭಾಷಾ ಸೂಕ್ಷ್ಮ-ಶ್ರುತಿಗೆ ಬದ್ಧರಾಗುವ ಮೊದಲು ಉತ್ತಮವಾಗಿ ರಚಿಸಲಾದ ಬಹುಭಾಷಾ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಶೂನ್ಯ ತರಬೇತಿ ವೆಚ್ಚದಲ್ಲಿ ಹೋಲಿಸಬಹುದಾದ ಫಲಿತಾಂಶಗಳನ್ನು ಸಾಧಿಸಬಹುದೇ ಎಂದು ಪರಿಗಣಿಸಿ.
ಆರೋಗ್ಯ, ಹಣಕಾಸು ಅಥವಾ ಕಾನೂನು ಡೊಮೇನ್‌ಗಳಲ್ಲಿ ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗಾಗಿ,
ಆರೋಗ್ಯ, ಹಣಕಾಸು ಅಥವಾ ಕಾನೂನು ಡೊಮೇನ್‌ಗಳಲ್ಲಿನ ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗಾಗಿ, ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಗಳಿಗೆ ವ್ಯಾಪಕವಾದ ರೆಡ್-ಟೀಮಿಂಗ್ ಮತ್ತು ನಿಯೋಜನೆಯ ಮೊದಲು ಮೌಲ್ಯೀಕರಣದ ಅಗತ್ಯವಿರುತ್ತದೆ. ಈ ಮೌಲ್ಯೀಕರಣ ಪ್ರಕ್ರಿಯೆಯ ವೆಚ್ಚ (50 ರಿಂದ 200 ಗಂಟೆಗಳ ಡೊಮೇನ್ ತಜ್ಞರ ವಿಮರ್ಶೆ ಗಂಟೆಗೆ $100 ರಿಂದ $300) ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ವೆಚ್ಚವನ್ನು 10 ರಿಂದ 50 ಪಟ್ಟು ಮೀರಬಹುದು. ನಿಯಂತ್ರಿತ ಉದ್ಯಮಗಳಲ್ಲಿನ ಯಾವುದೇ ಉತ್ತಮ-ಶ್ರುತಿ ಯೋಜನೆಯ ಕಡ್ಡಾಯ ಅಂಶವಾಗಿ ಈ ಮೌಲ್ಯೀಕರಣಕ್ಕಾಗಿ ಬಜೆಟ್, ಐಚ್ಛಿಕ ಆಡ್-ಆನ್ ಆಗಿ ಅಲ್ಲ.
ಪ್ರಾಂಪ್ಟ್ ಉದ್ದವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಉತ್ತಮ-ಶ್ರುತಿಯನ್ನು ಬಳಸುವಾಗ (ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳನ್ನು ತೆಗೆದುಹಾಕುವುದು),
ಪ್ರಾಂಪ್ಟ್ ಉದ್ದವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಉತ್ತಮ-ಶ್ರುತಿಯನ್ನು ಬಳಸುವಾಗ (ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳನ್ನು ತೆಗೆದುಹಾಕುವುದು), ಬ್ರೇಕ್-ಈವ್ ಪಾಯಿಂಟ್ ಅನ್ನು ಎಚ್ಚರಿಕೆಯಿಂದ ಲೆಕ್ಕಾಚಾರ ಮಾಡಿ. ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಒಟ್ಟು $500 ವೆಚ್ಚವಾಗುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ವಿನಂತಿಯಿಂದ ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳ 800 ಟೋಕನ್‌ಗಳನ್ನು ತೆಗೆದುಹಾಕಿದರೆ, ಇನ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ GPT-4o-mini ನಲ್ಲಿ ಪ್ರತಿ ವಿನಂತಿಯ ಉಳಿತಾಯವು $0.00012 ಆಗಿದೆ. ಮುರಿಯಲು ನಿಮಗೆ 4.17 ಮಿಲಿಯನ್ ವಿನಂತಿಗಳು ಅಥವಾ ಒಂದು ವರ್ಷದಲ್ಲಿ ತಿಂಗಳಿಗೆ ಸರಿಸುಮಾರು 347,000 ವಿನಂತಿಗಳು ಬೇಕಾಗುತ್ತವೆ. ನಿಮ್ಮ ವಾಲ್ಯೂಮ್ ಈ ಮಿತಿಗಿಂತ ಕೆಳಗಿದ್ದರೆ, ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳ ಹೊರತಾಗಿಯೂ ಕೆಲವು-ಶಾಟ್ ವಿಧಾನವು ಹೆಚ್ಚು ಆರ್ಥಿಕವಾಗಿರುತ್ತದೆ.
OpenAI ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಬೆಲೆ (2025)
▾
| ಮಾದರಿ | ತರಬೇತಿ (ಪ್ರತಿ 1M ಟೋಕನ್‌ಗಳಿಗೆ) | ಇನ್ಫರೆನ್ಸ್ ಇನ್ಪುಟ್ | ತೀರ್ಮಾನ ಔಟ್ಪುಟ್ | ಬೇಸ್ ಇನ್ಪುಟ್ | ಮೂಲ ಔಟ್ಪುಟ್ |
|---|---|---|---|---|---|
| GPT-4o-ಮಿನಿ | $8.00 | $0.30/1M | $1.20/1M | $0.15/1M | $0.60/1M |
| GPT-4o | $25.00 | $3.75/1M | $15.00/1M | $2.50/1M | $10.00/1M |
| GPT-3.5-ಟರ್ಬೊ | $8.00 | $3.00/1M | $6.00/1M | $0.50/1M | $1.50/1M |
Frequently Asked Questions
▾
ನನಗೆ ಎಷ್ಟು ತರಬೇತಿ ಉದಾಹರಣೆಗಳು ಬೇಕು?
OpenAI ಕನಿಷ್ಠ 10 ಉದಾಹರಣೆಗಳನ್ನು ಶಿಫಾರಸು ಮಾಡುತ್ತದೆ ಆದರೆ ಅರ್ಥಪೂರ್ಣ ಗುಣಮಟ್ಟದ ಸುಧಾರಣೆಗಳಿಗಾಗಿ 50 ರಿಂದ 100 ಅನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ವಿಷಯ ರಚನೆಯಂತಹ ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳಿಗಾಗಿ, 200 ರಿಂದ 500 ಉದಾಹರಣೆಗಳು ಬೇಕಾಗಬಹುದು. 500 ಉದಾಹರಣೆಗಳನ್ನು ಮೀರಿ, ನಿಮ್ಮ ಕಾರ್ಯವು ಹೆಚ್ಚಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಹೊಂದಿರದ ಹೊರತು ಕಡಿಮೆ ಆದಾಯವು ಸಾಮಾನ್ಯವಾಗಿದೆ. 50 ಉದಾಹರಣೆಗಳೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ, ಗುಣಮಟ್ಟವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ ಮತ್ತು ಹೆಚ್ಚುವರಿ ಡೇಟಾದೊಂದಿಗೆ ಮೆಟ್ರಿಕ್‌ಗಳು ಸುಧಾರಿಸಿದರೆ ಮಾತ್ರ ಹೆಚ್ಚಿನದನ್ನು ಸೇರಿಸಿ.
ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್‌ಗೆ ಹೋಲಿಸಿದರೆ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ವೆಚ್ಚಕ್ಕೆ ಯೋಗ್ಯವಾಗಿದೆಯೇ?
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮಾಡಿದಾಗ ಅದು ಯೋಗ್ಯವಾಗಿರುತ್ತದೆ: ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಪ್ರತಿ ಪ್ರಾಂಪ್ಟ್‌ನಿಂದ ದುಬಾರಿ ಕೆಲವು-ಶಾಟ್ ಉದಾಹರಣೆಗಳನ್ನು ತೆಗೆದುಹಾಕುತ್ತದೆ (ತರಬೇತಿ ವೆಚ್ಚಕ್ಕಿಂತ ತಿಂಗಳಿಗೆ ಹೆಚ್ಚಿನ ಉಳಿತಾಯ), ಕಾರ್ಯಕ್ಕೆ ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್ ಸಾಧಿಸಲು ಸಾಧ್ಯವಾಗದ ಸ್ಥಿರತೆಯ ಅಗತ್ಯವಿರುತ್ತದೆ ಅಥವಾ ಗುಣಮಟ್ಟದ ಸುಧಾರಣೆ ನೇರವಾಗಿ ಆದಾಯದ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ. ಪ್ರಾಂಪ್ಟ್ ಇಂಜಿನಿಯರಿಂಗ್ ಗುರಿಯ ಗುಣಮಟ್ಟದಲ್ಲಿ 90 ಪ್ರತಿಶತ ಅಥವಾ ಹೆಚ್ಚಿನದನ್ನು ಸಾಧಿಸಿದಾಗ, ಕಾರ್ಯವು ಸರಳವಾದ ವರ್ಗೀಕರಣವಾಗಿದ್ದಾಗ ಅಥವಾ ನಡೆಯುತ್ತಿರುವ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಸಮರ್ಥಿಸಲು ಅನುಮಿತಿಯ ಪರಿಮಾಣವು ತುಂಬಾ ಕಡಿಮೆಯಾದಾಗ ಅದು ಯೋಗ್ಯವಾಗಿರುವುದಿಲ್ಲ.
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಎಷ್ಟು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ?
ಡೇಟಾಸೆಟ್ ಗಾತ್ರವನ್ನು ಅವಲಂಬಿಸಿ OpenAI ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಸಾಮಾನ್ಯವಾಗಿ 30 ನಿಮಿಷಗಳಿಂದ 3 ಗಂಟೆಗಳವರೆಗೆ ಪೂರ್ಣಗೊಳ್ಳುತ್ತದೆ. ಪ್ರತಿ ಉದಾಹರಣೆಗೆ 500 ಟೋಕನ್‌ಗಳನ್ನು ಹೊಂದಿರುವ 100-ಉದಾಹರಣೆ ಡೇಟಾಸೆಟ್ ಒಂದು ಗಂಟೆಯೊಳಗೆ ಮುಕ್ತಾಯಗೊಳ್ಳುತ್ತದೆ. ಪ್ರತಿಯೊಂದೂ 1,000 ಟೋಕನ್‌ಗಳೊಂದಿಗೆ 1,000-ಉದಾಹರಣೆ ಡೇಟಾಸೆಟ್ 2 ರಿಂದ 3 ಗಂಟೆಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು. ತರಬೇತಿ ಪೂರ್ಣಗೊಂಡಾಗ ನೀವು ಇಮೇಲ್ ಅಧಿಸೂಚನೆಯನ್ನು ಸ್ವೀಕರಿಸುತ್ತೀರಿ ಮತ್ತು ವಿಶಿಷ್ಟವಾದ ಮಾದರಿ ಗುರುತಿಸುವಿಕೆಯೊಂದಿಗೆ API ಮೂಲಕ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿ ತಕ್ಷಣವೇ ಲಭ್ಯವಿರುತ್ತದೆ.
ನಾನು ಸ್ವಾಮ್ಯದ ಡೇಟಾವನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಬಹುದೇ?
ಹೌದು, ಸೂಕ್ತ ಮುನ್ನೆಚ್ಚರಿಕೆಗಳೊಂದಿಗೆ. OpenAI ತಮ್ಮ ಮಾದರಿಗಳ ತರಬೇತಿಗಾಗಿ API ಡೇಟಾವನ್ನು ಬಳಸುವುದಿಲ್ಲ. ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಗಾಗಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಡೇಟಾವನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ನಂತರ ಅಳಿಸಬಹುದು. ಕಟ್ಟುನಿಟ್ಟಾದ ಡೇಟಾ ಆಡಳಿತದ ಅವಶ್ಯಕತೆಗಳನ್ನು ಹೊಂದಿರುವ ಸಂಸ್ಥೆಗಳಿಗೆ, ಹೆಚ್ಚುವರಿ ಎಂಟರ್‌ಪ್ರೈಸ್ ಭದ್ರತಾ ನಿಯಂತ್ರಣಗಳು, ಡೇಟಾ ಪ್ರತ್ಯೇಕತೆ ಮತ್ತು SOC 2 ಮತ್ತು HIPAA ಸೇರಿದಂತೆ ಅನುಸರಣೆ ಪ್ರಮಾಣೀಕರಣಗಳನ್ನು ಒದಗಿಸುವ Azure OpenAI ಸೇವೆಯ ಮೂಲಕ ಉತ್ತಮ-ಶ್ರುತಿಯನ್ನು ಪರಿಗಣಿಸಿ.
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಗುಣಮಟ್ಟವನ್ನು ಸುಧಾರಿಸದಿದ್ದರೆ ಏನಾಗುತ್ತದೆ?
ಸರಿಸುಮಾರು 30 ರಿಂದ 40 ಪ್ರತಿಶತ ಸೂಕ್ಷ್ಮ-ಶ್ರುತಿ ಪ್ರಯತ್ನಗಳು ಅರ್ಥಪೂರ್ಣ ಸುಧಾರಣೆಗಳನ್ನು ಉಂಟುಮಾಡುವುದಿಲ್ಲ. ಸಾಮಾನ್ಯ ಕಾರಣಗಳು ಸಾಕಷ್ಟಿಲ್ಲದ ಅಥವಾ ಕಡಿಮೆ-ಗುಣಮಟ್ಟದ ತರಬೇತಿ ಡೇಟಾ, ಬೇಸ್ ಮಾಡೆಲ್ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ತುಂಬಾ ಸಂಕೀರ್ಣವಾದ ಕಾರ್ಯಗಳು ಮತ್ತು ಸಣ್ಣ ಡೇಟಾಸೆಟ್‌ಗಳಲ್ಲಿ ಅತಿಯಾಗಿ ಹೊಂದಿಕೊಳ್ಳುವುದು. ನಿಮ್ಮ ಮೊದಲ ಪ್ರಯತ್ನ ವಿಫಲವಾದಲ್ಲಿ, ತರಬೇತಿಯ ಉದಾಹರಣೆಗಳನ್ನು 2 ರಿಂದ 3 ಪಟ್ಟು ಹೆಚ್ಚಿಸಿ, ತಜ್ಞರ ವಿಮರ್ಶೆಯ ಮೂಲಕ ಉದಾಹರಣೆ ಗುಣಮಟ್ಟವನ್ನು ಸುಧಾರಿಸಲು, ಯುಗಗಳ ಸಂಖ್ಯೆಯನ್ನು ಸರಿಹೊಂದಿಸಲು ಅಥವಾ ಹೆಚ್ಚು ಸಮರ್ಥ ಮೂಲ ಮಾದರಿಗೆ ಬದಲಾಯಿಸಲು ಪ್ರಯತ್ನಿಸಿ.
ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯ ನಿರ್ಣಯದ ಬೆಲೆ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ?
ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಗಳನ್ನು ಮೂಲ ಮಾದರಿ ದರಕ್ಕಿಂತ ಸರಿಸುಮಾರು 2x ನಲ್ಲಿ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ. ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಿದ GPT-4o-mini ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $0.30 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $1.20 ಮತ್ತು ಮೂಲ ಮಾದರಿಗೆ $0.15 ಮತ್ತು $0.60 ವೆಚ್ಚವಾಗುತ್ತದೆ. ಫೈನ್-ಟ್ಯೂನ್ಡ್ GPT-4o ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್‌ಗೆ $3.75 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್‌ಗೆ $15.00 ಮತ್ತು ಬೇಸ್‌ಗೆ $2.50 ಮತ್ತು $10.00 ವೆಚ್ಚವಾಗುತ್ತದೆ. ಹೋಸ್ಟ್ ಮಾಡಿದ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡೆಲ್‌ಗಳು ಸಕ್ರಿಯವಾಗಿರುವಾಗ ಪ್ರತಿ-ಗಂಟೆಗೆ ಹೋಸ್ಟಿಂಗ್ ಶುಲ್ಕವನ್ನು ಸಹ ಅನುಭವಿಸುತ್ತವೆ.
Common Mistakes to Avoid
▾
- !ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್ ಆಯ್ಕೆಗಳನ್ನು ಖಾಲಿ ಮಾಡುವ ಮೊದಲು ಫೈನ್-ಟ್ಯೂನಿಂಗ್:
- !ದತ್ತಾಂಶ ತಯಾರಿ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಅಂದಾಜು ಮಾಡುವುದು:
- !ನಡೆಯುತ್ತಿರುವ ನಿರ್ಣಯ ವೆಚ್ಚದ ಪ್ರೀಮಿಯಂ ಅನ್ನು ಮರೆತುಬಿಡುವುದು:
Pro Tip
ಪೂರ್ಣ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಯೋಜನೆಗೆ ಒಪ್ಪಿಸುವ ಮೊದಲು, ಕೇವಲ 20 ರಿಂದ 30 ಉದಾಹರಣೆಗಳೊಂದಿಗೆ ತ್ವರಿತ ಪ್ರಯೋಗವನ್ನು ರನ್ ಮಾಡಿ. ಈ ಸಣ್ಣ ಡೇಟಾಸೆಟ್‌ನೊಂದಿಗೆ ನಿಮ್ಮ ಪರೀಕ್ಷಾ ಸೆಟ್‌ನಲ್ಲಿ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಅಳೆಯಬಹುದಾದ ಸುಧಾರಣೆಯನ್ನು ತೋರಿಸಿದರೆ, ಇದು ನಿಮ್ಮ ಕಾರ್ಯಕ್ಕಾಗಿ ಉತ್ತಮ-ಶ್ರುತಿಯು ಕಾರ್ಯಸಾಧ್ಯವಾದ ತಂತ್ರವಾಗಿದೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. 30 ಉದಾಹರಣೆಗಳು ಯಾವುದೇ ಸುಧಾರಣೆಯನ್ನು ತೋರಿಸದಿದ್ದರೆ, ಹೆಚ್ಚಿನ ಡೇಟಾವನ್ನು ಸೇರಿಸುವುದು ಸಹಾಯ ಮಾಡಲು ಅಸಂಭವವಾಗಿದೆ ಮತ್ತು ಬೇಸ್ ಮಾಡೆಲ್ ಸಾಮರ್ಥ್ಯವು ಸಾಕಾಗುತ್ತದೆಯೇ ಅಥವಾ ಕಾರ್ಯದ ವ್ಯಾಖ್ಯಾನವು ಪರಿಷ್ಕರಣೆಯ ಅಗತ್ಯವಿದೆಯೇ ಎಂದು ನೀವು ತನಿಖೆ ಮಾಡಬೇಕು.
Did you know?
100 ಉನ್ನತ-ಗುಣಮಟ್ಟದ ಉದಾಹರಣೆಗಳಲ್ಲಿ GPT-4o-mini ಅನ್ನು ಉತ್ತಮ-ಟ್ಯೂನ್ ಮಾಡಲು ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವು ಸರಿಸುಮಾರು $0.24 ಆಗಿದೆ, ಇದು ಒಂದು ವಿತರಣಾ ಯಂತ್ರದಿಂದ ಒಂದು ಗಂಬಲ್‌ನ ಬೆಲೆಗಿಂತ ಕಡಿಮೆಯಾಗಿದೆ. ನೈಜ ವೆಚ್ಚವು ಯಾವಾಗಲೂ ಆ 100 ಉದಾಹರಣೆಗಳನ್ನು ರಚಿಸಲು ಅಗತ್ಯವಿರುವ ಮಾನವ ಪರಿಣತಿಯಾಗಿದೆ, ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಕಂಪ್ಯೂಟ್‌ಗಿಂತ 500 ರಿಂದ 2,000 ಪಟ್ಟು ಹೆಚ್ಚು ವೆಚ್ಚವಾಗುತ್ತದೆ. ಕ್ಷುಲ್ಲಕ ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚಗಳನ್ನು ಹೊಂದಿದ್ದರೂ ಇದು ಉತ್ತಮ-ಶ್ರುತಿಗೊಳಿಸುವಿಕೆಯನ್ನು ಮಾನವ-ಕಾರ್ಮಿಕ-ತೀವ್ರವಾದ AI ತಂತ್ರಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
References
ಸಾಪ್ತಾಹಿಕ ಗಣಿತ ಸಲಹೆಗಳನ್ನು ಪಡೆಯಿರಿ
ಪ್ರತಿ ವಾರ ಕ್ಯಾಲ್ಕುಲೇಟರ್ ಸಲಹೆಗಳನ್ನು ಪಡೆಯುವ 12,000+ ಚಂದಾದಾರರನ್ನು ಸೇರಿ.