କ'ଣ LLM Cost Comparison Tool?
▾
ସମାନ କାର୍ଯ୍ୟଭାର ପାଇଁ LLM ମୂଲ୍ୟ ତୁଳନା ତୁଳନା କାଲକୁଲେଟର ପ୍ରମୁଖ ବୃହତ ଭାଷା ମଡେଲଗୁଡ଼ିକର ପାର୍ଶ୍ୱ ମୂଲ୍ୟ ବିଶ୍ଳେଷଣ ପ୍ରଦାନ କରିଥାଏ | ଆପଣଙ୍କ ନିର୍ଦ୍ଦିଷ୍ଟ ବ୍ୟବହାର ମାମଲା ପାଇଁ ପ୍ରକୃତ ମୂଲ୍ୟର ପାର୍ଥକ୍ୟକୁ ପ୍ରକାଶ କରିବା ପାଇଁ ଏହା GPT-4o, Claude Sonnet 4, Gemini Pro, Llama 3 (self-host), ଏବଂ Mistral ମଧ୍ୟରେ ମୂଲ୍ୟକୁ ସାଧାରଣ କରିଥାଏ | LLM ମୂଲ୍ୟ ଦ୍ରୁତ ଗତିରେ ପରିବର୍ତ୍ତନ ଏବଂ ପ୍ରତି ମାସରେ ନୂତନ ମଡେଲଗୁଡିକ ଲଞ୍ଚ ହେବା ସହିତ, ଏହି ଉପକରଣଟି ପୁରୁଣା ଧାରଣା ଉପରେ ନିର୍ଭର କରିବା ପରିବର୍ତ୍ତେ ତଥ୍ୟ ଚାଳିତ ପ୍ରଦାନକାରୀ ନିଷ୍ପତ୍ତି ନେବାରେ ସାହାଯ୍ୟ କରେ | ବିକ୍ରେତା ଲକ୍-ଇନ୍ ବିପଦର ମୂଲ୍ୟାଙ୍କନ, ମଲ୍ଟି-ମଡେଲ୍ ସ୍ଥାପତ୍ୟର ଡିଜାଇନ୍ କରୁଥିବା ପ୍ଲାଟଫର୍ମ ଇଞ୍ଜିନିୟର୍ ଏବଂ ଏଣ୍ଟରପ୍ରାଇଜ୍ ଚୁକ୍ତିନାମା ପାଇଁ କ୍ରୟ ଦଳଗୁଡିକ CTO ପାଇଁ କାଲକୁଲେଟର ଅପରିହାର୍ଯ୍ୟ | GPT-4o ରେ ମାସକୁ $ 500 ଖର୍ଚ୍ଚ ହେଉଥିବା ଏକ କାର୍ଯ୍ୟଭାର କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 ରେ 630 $, ମିଥୁନ 1.5 ଫ୍ଲାସରେ $ 200 କିମ୍ବା A100 GPU ରେ ଚାଲୁଥିବା ସ୍ -ୟଂ ହୋଷ୍ଟ ହୋଇଥିବା ଲାଲାମା ଉପରେ $ 150 ଖର୍ଚ୍ଚ ହୋଇପାରେ | ଏହି ପାର୍ଥକ୍ୟଗୁଡିକ ସ୍କେଲରେ ଯ ound ଗିକ ହୁଏ ଏବଂ ଏକ ଲାଭଜନକ AI ବ feature ଶିଷ୍ଟ୍ୟ ଏବଂ ମାର୍ଜିନଗୁଡିକ କ୍ଷୟ କରୁଥିବା ପାର୍ଥକ୍ୟକୁ ବୁ can ାଇପାରେ | କଞ୍ଚା ଟୋକେନ୍ ମୂଲ୍ୟ ବାହାରେ, ତୁଳନାତ୍ମକ ମାନଦଣ୍ଡ ସ୍କୋର, ପ୍ରସଙ୍ଗ ୱିଣ୍ଡୋ ଆକାର, ଏବଂ ବ୍ୟବହାରିକ ସାମର୍ଥ୍ୟ ମୂଲ୍ୟାଙ୍କନକୁ ଅନ୍ତର୍ଭୁକ୍ତ କରି ଗୁଣାତ୍ମକ ପାର୍ଥକ୍ୟ ପାଇଁ ହିସାବ କରେ | ଏକ ମଡେଲ୍ ଯାହାର ମୂଲ୍ୟ 50 ପ୍ରତିଶତ କମ୍ କିନ୍ତୁ ମାନବ ସମୀକ୍ଷା ଦୁଇଗୁଣ ଆବଶ୍ୟକ କରୁଥିବା ଫଳାଫଳ ଉତ୍ପାଦନ ପ୍ରକୃତରେ ଶସ୍ତା ନୁହେଁ | ଏହି କାଲକୁଲେଟର ଦଳଗୁଡିକ ପୁନ quality କାର୍ଯ୍ୟ, ବିଳମ୍ବ ଦଣ୍ଡ ଏବଂ ଉପଭୋକ୍ତା ସନ୍ତୋଷ ପ୍ରଭାବ ସହିତ ଗୁଣବତ୍ତାର ମୋଟ ମୂଲ୍ୟ ବିଷୟରେ ସାମଗ୍ରିକ ଭାବରେ ଚିନ୍ତା କରିବାରେ ସାହାଯ୍ୟ କରେ |
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
ସୂତ୍ର
▾
ମଡେଲ୍ X = ପାଇଁ ମୂଲ୍ୟ (ଇନପୁଟ୍ ଟୋକେନ୍ x ମଡେଲ୍ X ଇନପୁଟ୍ ମୂଲ୍ୟ + ଆଉଟପୁଟ୍ ଟୋକେନ୍ x ମଡେଲ୍ X ଆଉଟପୁଟ୍ ମୂଲ୍ୟ) / 1,000,000 x ମାସିକ ଅନୁରୋଧ | 50,000 ମାସିକ ଅନୁରୋଧ ମଧ୍ୟରେ 1000 ଇନପୁଟ୍ ଟୋକେନ୍ ଏବଂ 500 ଆଉଟପୁଟ୍ ଟୋକେନ୍ ର କାର୍ଯ୍ୟଭାର ପାଇଁ: GPT-4o = (1000 x $ 2.50 + 500 x $ 10.00) / 1M x 50,000 = $ 375.00 | କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 = (1000 x $ 3.00 + 500 x $ 15.00) / 1 ମି x 50,000 = $ 525.00 | ମିଥୁନ 1.5 ପ୍ରୋ = (1000 x $ 1.25 + 500 x $ 5.00) / 1 ମି x 50,000 = $ 187.50 |ଚଳ ବ୍ୟାଖ୍ୟା
▾
| ସଙ୍କେତ | ନାମ | ଏକକ | Description |
|---|---|---|---|
| T_in | ଅନୁରୋଧ ଅନୁଯାୟୀ ଇନପୁଟ୍ ଟୋକେନ୍ | | tokens | ବିଭିନ୍ନ ଟୋକେନାଇଜେସନ୍ ପଦ୍ଧତି ସତ୍ତ୍ fair େ ନ୍ୟାୟଯୁକ୍ତ ତୁଳନା ପାଇଁ ପ୍ରଦାନକାରୀଙ୍କ ମଧ୍ୟରେ ମାନାଙ୍କିତ API କଲ୍ ପ୍ରତି ହାରାହାରି ଇନପୁଟ୍ ଟୋକେନ୍ | |
| T_out | ଅନୁରୋଧ ଅନୁଯାୟୀ ଆଉଟପୁଟ୍ ଟୋକେନ୍ | | tokens | ପ୍ରତି ପ୍ରତିକ୍ରିୟାରେ ହାରାହାରି ଆଉଟପୁଟ୍ ଟୋକେନ୍, ଯାହା ଟାସ୍କ ପ୍ରକାର ଅନୁଯାୟୀ ଶ୍ରେଣୀକରଣ ପାଇଁ 10 ରୁ 4,000 କିମ୍ବା ଅଧିକ ବିଷୟବସ୍ତୁ ଉତ୍ପାଦନ ପାଇଁ ବଦଳିଥାଏ | |
| N | ମାସିକ ଅନୁରୋଧ ଭଲ୍ୟୁମ୍ | | requests per month | ସମସ୍ତ ବ୍ୟବହାର ମାମଲାରେ ମାସକୁ ସମୁଦାୟ API କଲ୍, ଯାହା ନିର୍ଣ୍ଣୟ କରେ ଯେ ଭଲ୍ୟୁମ୍ ରିହାତି କିମ୍ବା ସେଲ୍-ହୋଷ୍ଟିଂ ବ୍ୟୟ-ପ୍ରଭାବଶାଳୀ ବିକଳ୍ପ ହୋଇଯାଏ | |
| P_in_x | ମଡେଲ୍ X ଇନପୁଟ୍ ମୂଲ୍ୟ | | USD per 1M tokens | ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ ମଡେଲ ପାଇଁ ଇନପୁଟ୍ ଟୋକେନ୍ ମୂଲ୍ୟ ଯେପରିକି GPT-4o ପାଇଁ $ 2.50, କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 ପାଇଁ $ 3.00 କିମ୍ବା ମିଥୁନ 1.5 ପ୍ରୋ ପାଇଁ $ 1.25 | |
| P_out_x | ମଡେଲ୍ X ଆଉଟପୁଟ୍ ମୂଲ୍ୟ | USD per 1M tokens | ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ ମଡେଲ ପାଇଁ ଆଉଟପୁଟ୍ ଟୋକେନ୍ ମୂଲ୍ୟ ଯେପରିକି GPT-4o ପାଇଁ $ 10.00, କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 ପାଇଁ $ 15.00 କିମ୍ବା ମିଥୁନ 1.5 ପ୍ରୋ ପାଇଁ $ 5.00 | |
| Q | ଗୁଣାତ୍ମକ ସ୍କୋର | | percentage (0-100) | ତୁମର ବ୍ୟବହାର ମାମଲା ପାଇଁ ପ୍ରାସଙ୍ଗିକ ମାନଦଣ୍ଡ ଉପରେ ଆଧାର କରି ଏକ ସ୍ ized ାଭାବିକ ଗୁଣବତ୍ତା ସ୍କୋର, ଗୁଣାତ୍ମକ-ନିୟନ୍ତ୍ରିତ ମୂଲ୍ୟ ତୁଳନାତ୍ମକ ଗଣନା ପାଇଁ ବ୍ୟବହୃତ ହୁଏ | |
କିପରି LLM Cost Comparison Tool
▾
- 1ଅନୁରୋଧ ପ୍ରତି ହାରାହାରି ଇନପୁଟ୍ ଟୋକେନ୍, ପ୍ରତିକ୍ରିୟାରେ ହାରାହାରି ଆଉଟପୁଟ୍ ଟୋକେନ୍ ଏବଂ ମାସିକ ଅନୁରୋଧ ପରିମାଣ ନିର୍ଦ୍ଦିଷ୍ଟ କରି ଆପଣଙ୍କର ପ୍ରତିନିଧୀ କାର୍ଯ୍ୟଭାରକୁ ବ୍ୟାଖ୍ୟା କରନ୍ତୁ | ସବୁଠାରୁ ସଠିକ୍ ତୁଳନା ପାଇଁ, ଆପଣଙ୍କର ପ୍ରକୃତ ଉତ୍ପାଦନ ଟ୍ରାଫିକ୍ କିମ୍ବା ଏକ ପ୍ରତିନିଧୀ ନମୁନାରୁ ମାପ ବ୍ୟବହାର କରନ୍ତୁ | ବିଭିନ୍ନ ପ୍ରୟୋଗଗୁଡ଼ିକରେ ଭିନ୍ନ ଭିନ୍ନ ଇନପୁଟ୍-ଟୁ-ଆଉଟପୁଟ୍ ଅନୁପାତ ରହିଛି: ବର୍ଗୀକରଣ କାର୍ଯ୍ୟଗୁଡ଼ିକ ହୁଏତ 500 ଇନପୁଟ୍ ଏବଂ 20 ଆଉଟପୁଟ୍ ଟୋକେନ୍ ବ୍ୟବହାର କରିପାରନ୍ତି, ଯେତେବେଳେ ବିଷୟବସ୍ତୁ ଉତ୍ପାଦନ 1000 ଇନପୁଟ୍ ଏବଂ 2,000 ଆଉଟପୁଟ୍ ଟୋକେନ୍ ବ୍ୟବହାର କରିଥାଏ | କେଉଁ ଅନୁପାତ ଶସ୍ତା ତାହା ଏହି ଅନୁପାତ ଯଥେଷ୍ଟ ପ୍ରଭାବିତ କରେ |
- 2ଆପଣ ତୁଳନା କରିବାକୁ ଚାହୁଁଥିବା ମଡେଲଗୁଡିକ ବାଛନ୍ତୁ | କାଲକୁଲେଟର OpenAI GPT-4o ଏବଂ GPT-4o-mini, ଆନ୍ଥ୍ରୋପିକ୍ କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4, ହାଇକୁ, ଏବଂ ଓପସ୍ 4, ଗୁଗୁଲ୍ ମିଥୁନ 1.5 ପ୍ରୋ ଏବଂ ଫ୍ଲାସ୍, ଏବଂ ଲାଲାମା 3 70 ବି, ଲାଲାମା 3 8 ବି, ମିଷ୍ଟ୍ରାଲ୍ ବଡ଼, ଏବଂ ମିକ୍ସଟ୍ରାଲ୍ 8x7B ସହିତ ସମସ୍ତ ପ୍ରମୁଖ ବ୍ୟବସାୟିକ API କୁ ସମର୍ଥନ କରେ | ପ୍ରତ୍ୟେକ ମଡେଲର ଭିନ୍ନ ମୂଲ୍ୟ, ସାମର୍ଥ୍ୟ ଏବଂ କାର୍ଯ୍ୟକ୍ଷମ ବ characteristics ଶିଷ୍ଟ୍ୟ ଅଛି |
- 3ମାସିକ ମୂଲ୍ୟ, ଅନୁରୋଧ ପାଇଁ ମୂଲ୍ୟ ଏବଂ ପ୍ରତ୍ୟେକ ମଡେଲ ପାଇଁ 1000 ଟୋକେନ୍ ମୂଲ୍ୟ ଦେଖାଉଥିବା କଞ୍ଚା ମୂଲ୍ୟ ତୁଳନା ସାରଣୀ ସମୀକ୍ଷା କରନ୍ତୁ | କାଲକୁଲେଟର ସ୍ୱୟଂଚାଳିତ ଭାବରେ ଶସ୍ତା ଏବଂ ମହଙ୍ଗା ବିକଳ୍ପଗୁଡ଼ିକୁ ଆଲୋକିତ କରେ ଏବଂ ସେମାନଙ୍କ ମଧ୍ୟରେ ଶତକଡ଼ା ମୂଲ୍ୟ ପାର୍ଥକ୍ୟ ଦେଖାଏ | ଅନେକ କାର୍ଯ୍ୟଭାର ପାଇଁ, ସବୁଠାରୁ ଶସ୍ତା API ବିକଳ୍ପ ସବୁଠାରୁ ମହଙ୍ଗା ଅପେକ୍ଷା 5 ରୁ 10 ଗୁଣ କମ୍ ହୋଇପାରେ |
- 4ମୂଲ୍ୟ ସହିତ ବେଞ୍ଚମାର୍କ ସ୍କୋର ସମୀକ୍ଷା କରି ଗୁଣବତ୍ତା-ନିୟନ୍ତ୍ରିତ ଖର୍ଚ୍ଚରେ ଫ୍ୟାକ୍ଟର୍ | ଏକ ମଡେଲ୍ ଯାହା ଆପଣଙ୍କର ଟାସ୍କ ବେଞ୍ଚମାର୍କରେ 10 ପ୍ରତିଶତ କମ୍ ସ୍କୋର କରେ ଅତିରିକ୍ତ ମାନବ ସମୀକ୍ଷା, ପୁନ work କାର୍ଯ୍ୟ, କିମ୍ବା ପୁନ log ଚେଷ୍ଟା କରିବାକୁ ଆବଶ୍ୟକ କରେ ଯାହା ପ୍ରଭାବଶାଳୀ ମୂଲ୍ୟ ବ increases ାଇଥାଏ | ମୂଲ୍ୟ ପାର୍ଥକ୍ୟକୁ ପ୍ରସଙ୍ଗଭିତ୍ତିକ କରିବାରେ ସାହାଯ୍ୟ କରିବାକୁ କାଲକୁଲେଟରରେ MMLU, ହ୍ୟୁମାନ୍ ଇଭାଲ୍ ଏବଂ ଅନ୍ୟାନ୍ୟ ମାନକ ମାନଦଣ୍ଡ ସ୍କୋର ଅନ୍ତର୍ଭୁକ୍ତ |
- 5ଉଚ୍ଚ-ଭଲ୍ୟୁମ୍ କାର୍ଯ୍ୟଭାର ପାଇଁ ସ୍ୱ-ହୋଷ୍ଟ ବିକଳ୍ପଗୁଡ଼ିକୁ ବିଚାର କରନ୍ତୁ | କାଲକୁଲେଟର କ୍ଲାଉଡ୍ ଜିପିୟୁରେ ଲାଲାମା 3 70 ବି କିମ୍ବା ମିଷ୍ଟ୍ରାଲ୍ ଚଲାଇବା ସହିତ ସମାନ ମୂଲ୍ୟ ଆକଳନ କରେ (H100 ପ୍ରତି ଘଣ୍ଟା 2.50 ରୁ $ 8.00) ଏବଂ ବ୍ରେକ୍-ଏଭ୍ ପଏଣ୍ଟକୁ ଗଣନା କରେ ଯେଉଁଠାରେ API କଲ୍ ଅପେକ୍ଷା ସ୍ୱୟଂ ହୋଷ୍ଟିଂ ଶସ୍ତା ହୋଇଯାଏ | ଅଧିକାଂଶ ଦଳ ପାଇଁ, ବ୍ରେକ୍-ଏପରିକି API ଖର୍ଚ୍ଚରେ ମାସକୁ ପ୍ରାୟ 2,000 ରୁ 5000 $ ଅଟେ |
- 6ଅତିରିକ୍ତ ମୂଲ୍ୟ କାରକଗୁଡିକର ମୂଲ୍ୟାଙ୍କନ କରନ୍ତୁ ଯାହା ମାଲିକାନାର ମୋଟ ମୂଲ୍ୟ ଉପରେ ପ୍ରଭାବ ପକାଇଥାଏ | ଏଥିମଧ୍ୟରେ ରେଟ୍ ସୀମା (ଯାହା ଉଚ୍ଚ ସ୍ତର ପାଇଁ ଦେୟ ଆବଶ୍ୟକ କରିପାରନ୍ତି), ପ୍ରମ୍ପ୍ଟ କ୍ୟାଚିଂ ଉପଲବ୍ଧତା (କ୍ଲାଉଡ୍ 90 ପ୍ରତିଶତ କ୍ୟାଚ୍ ଟୋକେନ୍ ପ୍ରଦାନ କରେ), ବ୍ୟାଚ୍ ପ୍ରକ୍ରିୟାକରଣ ରିହାତି (ଉଭୟ ଓପନ୍ଏ ଏବଂ ଆନ୍ଥ୍ରୋପିକ୍ ଆସାଇନକ୍ ୱାର୍କ ଲୋଡ୍ ପାଇଁ 50 ପ୍ରତିଶତ ଅଫର୍) ଏବଂ ଏଣ୍ଟରପ୍ରାଇଜ୍ ଚୁକ୍ତିନାମା ମାଧ୍ୟମରେ ଉପଲବ୍ଧ ଭଲ୍ୟୁମ୍ ରିହାତି ଅନ୍ତର୍ଭୁକ୍ତ କରେ |
- 7ମୂଲ୍ୟ, ଗୁଣବତ୍ତା ଏବଂ କାର୍ଯ୍ୟକ୍ଷମ ଆବଶ୍ୟକତା ଉପରେ ଆଧାର କରି ଆପଣଙ୍କ କାର୍ଯ୍ୟଭାର ପାଇଁ ସର୍ବୋତ୍ତମ ମଡେଲ ପସନ୍ଦକୁ ସାରାଂଶିତ କରୁଥିବା ଏକ ସୁପାରିଶ ରିପୋର୍ଟ ସୃଷ୍ଟି କରନ୍ତୁ | ରିପୋର୍ଟରେ ଏକ ସ୍ଥାନାନ୍ତରଣ ମୂଲ୍ୟ ଆକଳନ ଅନ୍ତର୍ଭୂକ୍ତ ହୋଇଛି ଯଦି ଆପଣ ପ୍ରଦାନକାରୀଙ୍କୁ ସୁଇଚ୍ କରୁଛନ୍ତି, ପ୍ରମ୍ପ୍ଟ ପୁନ re- ଇଞ୍ଜିନିୟରିଂ, ପରୀକ୍ଷଣ ଏବଂ ଏକ ଭିନ୍ନ API ଫର୍ମାଟ ସହିତ ଖାପ ଖୁଆଇବା ପାଇଁ ଆବଶ୍ୟକ କ application ଣସି ପ୍ରୟୋଗ କୋଡ୍ ପରିବର୍ତ୍ତନ ପାଇଁ ହିସାବ ଦେଉଛନ୍ତି |
ସମାଧାନ ହୋଇଥିବା ଉଦାହରଣ
▾
ଏକ ଚାଟ୍ବଟ୍ ପାଇଁ ଯେଉଁଠାରେ GPT-4o-mini କିମ୍ବା ମିଥୁନ ଫ୍ଲାସ୍ ଗୁଣ ଗ୍ରହଣୀୟ, ଫ୍ଲାଗସିପ୍ ମଡେଲ ତୁଳନାରେ ଖର୍ଚ୍ଚ 95 ପ୍ରତିଶତ କମ୍ ଅଟେ | ସରଳ ଗ୍ରାହକ ସମର୍ଥନ ପ୍ରଶ୍ନଗୁଡ଼ିକ ପାଇଁ ଗୁଣାତ୍ମକ ପାର୍ଥକ୍ୟ ଅନେକ ସମୟରେ ଅବହେଳିତ, ଏହି ବ୍ୟବହାର ମାମଲା ପାଇଁ ବଜେଟ୍ ମଡେଲଗୁଡିକ ସ୍ପଷ୍ଟ ବିଜେତା କରିଥାଏ |
ଉଚ୍ଚମାନର ମଡେଲଗୁଡିକରୁ କୋଡ୍ ଉତ୍ପାଦନ ଲାଭ କରେ, କିନ୍ତୁ ସୋନେଟ୍ 4 ଉପରେ ଓପସ୍ 4 ପାଇଁ 5x ପ୍ରିମିୟମ୍ କେବଳ ଜଟିଳ କାର୍ଯ୍ୟଗୁଡ଼ିକ ପାଇଁ ଯଥାର୍ଥ ଅଟେ | ସ୍ hosted- ହୋଷ୍ଟ ହୋଇଥିବା ଲାଲାମା 3 70 ବି ମୂଲ୍ୟ ଉପରେ ପ୍ରତିଯୋଗୀ କିନ୍ତୁ ଭିତ୍ତିଭୂମି ପରିଚାଳନା ଆବଶ୍ୟକ କରେ ଏବଂ ବିଶେଷ framework ାଞ୍ଚା ପାଇଁ କମ୍ କୋଡ୍ ଗୁଣ ଥାଇପାରେ |
ସଂରଚନା ଡାଟା ନିଷ୍କାସନ ପାଇଁ ଯେଉଁଠାରେ ଆଉଟପୁଟ୍ ସ୍ୱଳ୍ପ JSON, ମିଥୁନ 1.5 ଫ୍ଲାସ୍ ସର୍ବନିମ୍ନ ମୂଲ୍ୟ ପ୍ରଦାନ କରେ | ଅବଶ୍ୟ, ଜଟିଳ ନିଷ୍କାସନ ସ୍କିମା ପାଇଁ କ୍ଲାଉଡ୍ ହାଇକୁ ଏବଂ ଜିପିଟି -4-ମିନିରେ ଉତ୍ତମ ନିର୍ଦ୍ଦେଶ ରହିଛି, ତେଣୁ ଶସ୍ତା ମଡେଲ ସର୍ବଦା ସର୍ବୋତ୍ତମ ଫଳାଫଳ ଦେଇପାରେ ନାହିଁ |
ବ୍ୟାବହାରିକ ପ୍ରୟୋଗ
▾
ଷ୍ଟାର୍ଟଅପ୍ CTO ଗୁଡିକ ସେମାନଙ୍କର ପ୍ରାରମ୍ଭିକ AI ସ୍ଥାପତ୍ୟ ନିଷ୍ପତ୍ତି ସମୟରେ ଏହି କାଲକୁଲେଟର ବ୍ୟବହାର କରନ୍ତି, ଏକ ମହଙ୍ଗା ପ୍ରଦାନକାରୀକୁ ଶୀଘ୍ର ଲକ୍ ନକରିବାକୁ | ଏକ ସିରିଜ୍ ଏଇ ଲିଖନ ସହାୟକ ନିର୍ମାଣ କରୁଥିବା ଏକ ଷ୍ଟାର୍ଟଅପ୍ ସମସ୍ତ ପ୍ରମୁଖ ପ୍ରଦାନକାରୀଙ୍କୁ ମୂଲ୍ୟାଙ୍କନ କଲା ଏବଂ ଜାଣିବାକୁ ପାଇଲା ଯେ GPT-4o-mini $ 0.15 / $ 0.60 ରେ ନିର୍ଦ୍ଦିଷ୍ଟ ବ୍ୟବହାର ମାମଲା ପାଇଁ 92 ପ୍ରତିଶତ କମ୍ ମୂଲ୍ୟରେ GPT-4o ଗୁଣର 92 ପ୍ରତିଶତ ବିତରଣ କରିଛି | ଏହି ନିଷ୍ପତ୍ତି ସେମାନଙ୍କୁ ବାର୍ଷିକ ପ୍ରାୟ 40,000 ଡଲାର୍ ସଞ୍ଚୟ କଲା କାରଣ ସେମାନେ 500,000 ମାସିକ API କଲ୍ କୁ ମାପଚୁପ କଲେ, ଏବଂ ସେମାନଙ୍କର ରନୱେକୁ ବହୁଗୁଣିତ କଲେ |
ବହୁ ବର୍ଷର AI ପ୍ଲାଟଫର୍ମ ଚୁକ୍ତି ବୁ negoti ାମଣା କରିବା ସମୟରେ ଏଣ୍ଟରପ୍ରାଇଜ୍ କ୍ରୟ ଦଳ ମୂଲ୍ୟ ତୁଳନାତ୍ମକ ବ୍ୟବହାର କରନ୍ତି | ଏକ ଫର୍ଚୁନ୍ 500 କମ୍ପାନୀ ଏହି ବିଶ୍ଳେଷଣକୁ ବ୍ୟବହାର କରି ସେମାନଙ୍କ OpenAI ଆକାଉଣ୍ଟ୍ ଦଳକୁ ଦର୍ଶାଇଲା ଯେ କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 ରେ ପ୍ରମ୍ପ୍ଟ କ୍ୟାଚିଂ ସହିତ ସମାନ କାର୍ଯ୍ୟଭାର 25 ପ୍ରତିଶତ କମ୍ ହେବ, ପରିଶେଷରେ ସେମାନଙ୍କ OpenAI ଏଣ୍ଟରପ୍ରାଇଜ୍ ଚୁକ୍ତିରେ ବାର୍ଷିକ 180,000 ଡଲାର ମୂଲ୍ୟର 20 ପ୍ରତିଶତ ଭଲ୍ୟୁମ୍ ରିହାତି ମିଳିବ |
ମଲ୍ଟି-ମଡେଲ ରାଉଟିଙ୍ଗ ସିଷ୍ଟମ ନିର୍ମାଣ କରୁଥିବା ପ୍ଲାଟଫର୍ମ ଇଞ୍ଜିନିୟରିଂ ଦଳ ମୂଲ୍ୟ-ଆଧାରିତ ରାଉଟିଙ୍ଗ ନିୟମ ସ୍ଥିର କରିବାକୁ ଏହି କାଲକୁଲେଟର ବ୍ୟବହାର କରନ୍ତି | ଏକ ଫିଣ୍ଟେକ୍ କମ୍ପାନୀ ସରଳ ଜିଜ୍ଞାସା (ବର୍ଗୀକରଣ, ସଂସ୍ଥା ନିଷ୍କାସନ) କୁ GPT-4o-mini, କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 କୁ ଷ୍ଟାଣ୍ଡାର୍ଡ ଜିଜ୍ଞାସା ଏବଂ GPT-4o କୁ ଜଟିଳ ଆନାଲିଟିକାଲ୍ ଜିଜ୍ଞାସା ମାର୍ଗ ଦେଇଥାଏ | ଏହି ପର୍ଯ୍ୟାୟ ରାଉଟିଙ୍ଗ୍ ସେମାନଙ୍କର ମାସିକ AI ଖର୍ଚ୍ଚକୁ 12,000 ରୁ 4,800 ଡଲାରକୁ ହ୍ରାସ କଲାବେଳେ ସମସ୍ତ ପାରସ୍ପରିକ ପ୍ରକାର ମଧ୍ୟରେ ସମାନ ଉପଭୋକ୍ତା-ଧାରଣା ଗୁଣକୁ ବଜାୟ ରଖିଲା |
କ୍ଲାଏଣ୍ଟମାନଙ୍କୁ ସମାଧାନ ପାଇଁ ସୁପାରିଶ କରିବା ସମୟରେ AI ପରାମର୍ଶଦାତା କ୍ରସ୍-ପ୍ରଦାନକାରୀ ମୂଲ୍ୟ ବିଶ୍ଳେଷଣ ବ୍ୟବହାର କରନ୍ତି | API ଖର୍ଚ୍ଚ, ଏକୀକରଣ ପ୍ରୟାସ, ଏବଂ ଚାଲୁଥିବା ରକ୍ଷଣାବେକ୍ଷଣ ସହିତ ପ୍ରତ୍ୟେକ ବିକଳ୍ପର ମୋଟ ମୂଲ୍ୟକୁ ମଡେଲିଂ କରି, ପରାମର୍ଶଦାତାମାନେ ବହୁ ଜଣାଶୁଣା ପ୍ରଦାନକାରୀଙ୍କୁ ଡିଫଲ୍ଟ କରିବା ପରିବର୍ତ୍ତେ ଅବଜେକ୍ଟିଭ୍ ସୁପାରିଶ ପ୍ରଦାନ କରିପାରିବେ | ଏହି ବିଶ୍ଳେଷଣ ବାରମ୍ବାର ପ୍ରକାଶ କରେ ଯେ ସର୍ବୋଚ୍ଚ ପସନ୍ଦ ନିର୍ଦ୍ଦିଷ୍ଟ କାର୍ଯ୍ୟଭାର ବ characteristics ଶିଷ୍ଟ୍ୟ ଉପରେ ଅଧିକ ନିର୍ଭର କରେ, ସମସ୍ତ ବ୍ୟବହାର କ୍ଷେତ୍ରରେ କ single ଣସି ପ୍ରଦାନକାରୀ ପ୍ରାଧାନ୍ୟ ବିସ୍ତାର କରନ୍ତି ନାହିଁ |
ବିଶେଷ ଘଟଣା
▾
ମଲ୍ଟି ଟର୍ନ ବାର୍ତ୍ତାଳାପ କାର୍ଯ୍ୟଭାର ପାଇଁ ମଡେଲଗୁଡିକ ତୁଳନା କରିବାବେଳେ, ପ୍ରସଙ୍ଗ ୱିଣ୍ଡୋ ଆକାର ଏକ ଲୁକ୍କାୟିତ ମୂଲ୍ୟ ଗୁଣକ ସୃଷ୍ଟି କରେ |
ବୃହତ ପ୍ରସଙ୍ଗ ୱିଣ୍ଡୋ ସହିତ ମଡେଲଗୁଡିକ କଟିବା ବିନା ଅଧିକ ବାର୍ତ୍ତାଳାପକୁ ବଜାୟ ରଖିପାରେ, କିନ୍ତୁ ଅଧିକ ବାର୍ତ୍ତାଳାପ ଇତିହାସ ପଠାଇବା ଇନପୁଟ୍ ଟୋକେନ୍ ଖର୍ଚ୍ଚକୁ ବ increases ାଇଥାଏ | ଏକ ମଡେଲରେ 10-ଟର୍ ବାର୍ତ୍ତାଳାପ ଯେଉଁଠାରେ ଆପଣ ପୂର୍ଣ୍ଣ ଇତିହାସ ପଠାନ୍ତି, ଅନ୍ତିମ ପର୍ଯ୍ୟାୟରେ 30,000 ଇନପୁଟ୍ ଟୋକେନ୍ ଖାଇପାରେ | ବାର୍ତ୍ତାଳାପର ସଂକ୍ଷିପ୍ତକରଣ କିମ୍ବା ସ୍ଲାଇଡିଂ ୱିଣ୍ଡୋ ଟ୍ରଙ୍କେସନ୍ କାର୍ଯ୍ୟକାରୀ କରିବା ଦ୍ which ାରା ଆପଣ କେଉଁ ପ୍ରଦାନକାରୀ ବାଛନ୍ତି ତାହା ଉପରେ ଧ୍ୟାନ ନ ଦେଇ ଏହାକୁ 60 ରୁ 80 ପ୍ରତିଶତ ହ୍ରାସ କରିପାରେ |
ସଂରଚନା JSON ଆଉଟପୁଟ୍ ଆବଶ୍ୟକ କରୁଥିବା ପ୍ରୟୋଗଗୁଡ଼ିକ ପାଇଁ, କିଛି ମଡେଲ୍ |
ସଂରଚନା JSON ଆଉଟପୁଟ୍ ଆବଶ୍ୟକ କରୁଥିବା ପ୍ରୟୋଗଗୁଡ଼ିକ ପାଇଁ, କିଛି ମଡେଲ୍ ଅନ୍ୟମାନଙ୍କ ତୁଳନାରେ ଯଥେଷ୍ଟ ଅଧିକ ବିଶ୍ୱାସଯୋଗ୍ୟ, ଯାହା ପୁନ ry ଚେଷ୍ଟା ହାରକୁ ପ୍ରଭାବିତ କରିଥାଏ ଏବଂ ସେଥିପାଇଁ ପ୍ରଭାବଶାଳୀ ମୂଲ୍ୟକୁ ପ୍ରଭାବିତ କରେ | JSON ମୋଡ୍ ସହିତ GPT-4o ଏବଂ ଟୁଲ୍ ବ୍ୟବହାର ସହିତ କ୍ଲାଉଡ୍ ଉଭୟ ଉଚ୍ଚ-ନିର୍ଭରଯୋଗ୍ୟ ସଂରଚନା ଆଉଟପୁଟ୍ ପ୍ରଦାନ କରନ୍ତି, କିନ୍ତୁ ଉତ୍ସର୍ଗୀକୃତ ସଂରଚନା ଆଉଟପୁଟ୍ ମୋଡ୍ ବିନା ମଡେଲଗୁଡିକ ତ୍ରୁଟିପୂର୍ଣ୍ଣ JSON 5 ରୁ 15 ପ୍ରତିଶତ ଉତ୍ପାଦନ କରିପାରନ୍ତି | ପ୍ରତ୍ୟେକ ପୁନ ry ଚେଷ୍ଟା ସେହି ଅନୁରୋଧର ମୂଲ୍ୟକୁ ଦ୍ୱିଗୁଣିତ କରେ, ତେଣୁ 10 ପ୍ରତିଶତ ପୁନ ry ଚେଷ୍ଟା ହାର ମୂଳ ଟୋକେନ୍ ମୂଲ୍ୟ ଉପରେ ଖର୍ଚ୍ଚକୁ 10 ପ୍ରତିଶତ ବୃଦ୍ଧି କରିଥାଏ |
ସ୍ - ହୋଷ୍ଟ ହୋଇଥିବା ମୁକ୍ତ ଉତ୍ସ ମଡେଲଗୁଡିକର ମୂଲ୍ୟାଙ୍କନ କରିବାବେଳେ, ମୂଲ୍ୟ ତୁଳନା କରିବା ଜରୁରୀ |
ସ୍ hosted- ହୋଷ୍ଟ ହୋଇଥିବା ମୁକ୍ତ ଉତ୍ସ ମଡେଲଗୁଡିକର ମୂଲ୍ୟାଙ୍କନ କରିବାବେଳେ, ମୂଲ୍ୟ ତୁଳନାରେ କେବଳ ଜିପିୟୁ ଗଣନା ନୁହେଁ ସେଟଅପ୍ ଏବଂ ରକ୍ଷଣାବେକ୍ଷଣ ପାଇଁ ଇଞ୍ଜିନିୟରିଂ ସମୟ, ଭିତ୍ତିଭୂମି ମନିଟରିଂ, vLLM କିମ୍ବା TGI ପରି ମଡେଲ ସେବା framework ାଞ୍ଚା ଏବଂ ଅଫ୍ ପାଇକ୍ ସମୟ ମଧ୍ୟରେ ଜିପିୟୁ ଅବ୍ୟବହାରର ସୁଯୋଗ ମୂଲ୍ୟ ମଧ୍ୟ ଅନ୍ତର୍ଭୂକ୍ତ କରାଯିବା ଆବଶ୍ୟକ | ଏକ ଦଳ ପ୍ରତି ମାସରେ 20 ଡଲାରରେ ଏକ ସ୍ୱୟଂ ହୋଷ୍ଟ ମଡେଲକୁ ପରିଚାଳନା କରିବା ପାଇଁ ଶ୍ରମ ଖର୍ଚ୍ଚରେ 3000 ଡଲାର ଯୋଗାଏ ଯାହା ପ୍ରାୟତ raw API- ଆଧାରିତ ସମାଧାନକୁ କ raw ୍ଚା କମ୍ପ୍ୟୁଟ ତୁଳନା ତୁଳନାରେ ଅଧିକ ମୂଲ୍ୟବାନ କରିଥାଏ |
ପ୍ରମୁଖ LLM API ମୂଲ୍ୟ ତୁଳନା (2025)
▾
| ମଡେଲ୍ | | ପ୍ରଦାନକାରୀ | | ଇନପୁଟ୍ (ପ୍ରତି 1 ମି) | ଆଉଟପୁଟ୍ (ପ୍ରତି 1 ମି) | ପ୍ରସଙ୍ଗ ୱିଣ୍ଡୋ | | ବ୍ୟାଚ୍ ରିହାତି |
|---|---|---|---|---|---|
| GPT-4o | OpenAI | $ 2.50 | $ 10.00 | 128K | 50% ବନ୍ଦ | |
| GPT-4o-mini | OpenAI | $ 0.15 | $ 0.60 | 128K | 50% ବନ୍ଦ | |
| କ୍ଲାଉଡ୍ ସୋନେଟ୍ 4 | | ଆନ୍ଥ୍ରୋପିକ୍ | | $ 3.00 | $ 15.00 | 200K | 50% ବନ୍ଦ | |
| କ୍ଲାଉଡ୍ ହାଇକୁ | | ଆନ୍ଥ୍ରୋପିକ୍ | | $ 0.25 | $ 1.25 | 200K | 50% ବନ୍ଦ | |
| କ୍ଲାଉଡ୍ ଓପସ୍ 4 | | ଆନ୍ଥ୍ରୋପିକ୍ | | $ 15.00 | $ 75.00 | 200K | 50% ବନ୍ଦ | |
| ମିଥୁନ 1.5 ପ୍ରୋ | ଗୁଗୁଲ୍ | $ 1.25 | $ 5.00 | 1M | N/A |
| ମିଥୁନ 1.5। Flash ଫ୍ଲାସ୍ | | ଗୁଗୁଲ୍ | $ 0.075 | $ 0.30 | 1M | N/A |
| ଲାଲାମା 3 70 ବି | ଆତ୍ମ-ହୋଷ୍ଟ | ~ $ 0.50-1.00 * | ~ $ 0.50-1.00 * | 8K-128K | N/A |
| ମିଷ୍ଟ୍ରାଲ୍ ବଡ | | ମିଷ୍ଟ୍ରାଲ୍ | | $ 2.00 | $ 6.00 | 128K | N/A |
ବାରମ୍ବାର ଜିଜ୍ଞାସା
▾
କେଉଁ LLM ସାମଗ୍ରିକ ଭାବେ ଶସ୍ତା?
କ single ଣସି ଶସ୍ତା ଶସ୍ତା LLM ନାହିଁ କାରଣ ମୂଲ୍ୟ ଆପଣଙ୍କ ନିର୍ଦ୍ଦିଷ୍ଟ କାର୍ଯ୍ୟଭାର ବ characteristics ଶିଷ୍ଟ୍ୟ ଉପରେ ନିର୍ଭର କରେ | ଇନପୁଟ୍-ଭାରୀ କାର୍ଯ୍ୟଗୁଡିକ ପାଇଁ (ଲମ୍ବା ଡକ୍ୟୁମେଣ୍ଟ୍, କ୍ଷୁଦ୍ର ପ୍ରତିକ୍ରିୟା), ମିଥୁନ 1.5 ଫ୍ଲାସ୍ ପ୍ରତି ମିଲିୟନ୍ ଟୋକେନ୍ରେ $ 0.075 / $ 0.30 ରେ ଶସ୍ତା ଅଟେ | ସନ୍ତୁଳିତ କାର୍ଯ୍ୟଭାର ପାଇଁ, $ 0.15 / $ 0.60 ରେ GPT-4o-mini ଉତ୍କୃଷ୍ଟ ମୂଲ୍ୟ ପ୍ରଦାନ କରେ | ବିଷୟବସ୍ତୁ ଉତ୍ପାଦନ ପରି ଆଉଟପୁଟ୍-ଭାରୀ କାର୍ଯ୍ୟଗୁଡ଼ିକ ପାଇଁ, ସର୍ବନିମ୍ନ ଆଉଟପୁଟ୍ ମୂଲ୍ୟ ସହିତ ମଡେଲ୍ ଜିତେ | ସ୍ -ୟଂ ହୋଷ୍ଟ ହୋଇଥିବା ଲାଲାମା API API ଖର୍ଚ୍ଚରେ ମାସକୁ ପ୍ରାୟ 2,000 ରୁ 5000 $ ଉପରେ ଶସ୍ତା ହୋଇଯାଏ |
ବିଭିନ୍ନ ମଡେଲଗୁଡିକ ପାଠକୁ ଭିନ୍ନ ଭାବରେ ଟୋକେନାଇଜ୍ କରନ୍ତି କି?
ହଁ, ପ୍ରତ୍ୟେକ ପ୍ରଦାନକାରୀ ଭିନ୍ନ ଟୋକେନାଇଜର ବ୍ୟବହାର କରନ୍ତି, ଯାହାର ଅର୍ଥ ହେଉଛି ସମାନ ପାଠ ବିଭିନ୍ନ ଟୋକେନ୍ ଗଣନା କରିଥାଏ | GPT-4o cl100k_base (BPE) ବ୍ୟବହାର କରେ, କ୍ଲାଉଡ୍ ସମାନ BPE ଟୋକେନାଇଜର ବ୍ୟବହାର କରନ୍ତି, ଏବଂ ମିଥୁନ SentencePiece ବ୍ୟବହାର କରନ୍ତି | ଅଭ୍ୟାସରେ, ଇଂରାଜୀ ପାଠ୍ୟ ପାଇଁ ପ୍ରଦାନକାରୀଙ୍କ ମଧ୍ୟରେ ଟୋକେନ୍ ଗଣନା 5 ରୁ 15 ପ୍ରତିଶତ ଏବଂ ଅଣ-ଲାଟିନ୍ ସ୍କ୍ରିପ୍ଟ ପାଇଁ 30 ପ୍ରତିଶତ ପର୍ଯ୍ୟନ୍ତ ଭିନ୍ନ ହୋଇଥାଏ | ସଠିକ୍ ମୂଲ୍ୟ ତୁଳନା ପାଇଁ, ପ୍ରତ୍ୟେକ ନମୁନା ଟୋକେନାଇଜର୍ ସହିତ ଆପଣଙ୍କର ନମୁନା ପାଠ୍ୟକୁ ଟୋକେନ୍ କରନ୍ତୁ କିମ୍ବା ଏକ ରକ୍ଷଣଶୀଳ ଆକଳନ ବ୍ୟବହାର କରନ୍ତୁ |
କେତେବେଳେ ସ୍ୱୟଂ ହୋଷ୍ଟିଂ API ଅପେକ୍ଷା ଶସ୍ତା ହୋଇଯାଏ?
କ୍ଲାଉଡ୍ GPU ଗୁଡ଼ିକରେ Llama 3 70B ପରି ସ୍ -ୟଂ ହୋଷ୍ଟିଂ ମୁକ୍ତ ଉତ୍ସ ମଡେଲଗୁଡିକ ବ୍ୟୟବହୁଳ ହୋଇଯାଏ ଯେତେବେଳେ ଆପଣଙ୍କର ମାସିକ API ଖର୍ଚ୍ଚ ପ୍ରାୟ 2,000 ରୁ 5000 $ ଅତିକ୍ରମ କରେ | କ୍ଲାଉଡ୍ ପ୍ରଦାନକାରୀଙ୍କ ଉପରେ ନିର୍ଭର କରି ଗୋଟିଏ H100 GPU ରେ Llama 3 70B ଚଳାଇବା ପ୍ରାୟ 2,000 ରୁ 6,000 ଡଲାର୍ | ପୂର୍ଣ୍ଣ ବ୍ୟବହାରରେ, ଏହି ଜିପିୟୁ ପ୍ରତି ସେକେଣ୍ଡରେ ପ୍ରାୟ 50 ରୁ 100 ଅନୁରୋଧ ସେବା କରିପାରିବ, ଯାହା ମାସକୁ 130 ରୁ 260 ନିୟୁତ ଅନୁରୋଧ ସହିତ ସମାନ | ବ୍ରେକ୍-ଏପରିକି ଗଣିତ ଆପଣଙ୍କ ବ୍ୟବହାର ହାର ଉପରେ ଅଧିକ ନିର୍ଭର କରେ |
ମୂଲ୍ୟ ତୁଳନାରେ ଗୁଣାତ୍ମକ ପାର୍ଥକ୍ୟ ପାଇଁ ମୁଁ କିପରି ହିସାବ ଦେବି?
ଆପଣଙ୍କର ପ୍ରକୃତ କାର୍ଯ୍ୟଭାରରୁ 200 କିମ୍ବା ଅଧିକ ପ୍ରତିନିଧୀ ଅନୁରୋଧ ଉପରେ ଏକ ଅନ୍ଧ ମୂଲ୍ୟାଙ୍କନ ଚଲାନ୍ତୁ | ସଠିକତା, ସଂପୂର୍ଣ୍ଣତା, ଫର୍ମାଟିଂ ଏବଂ ଯେକ domain ଣସି ଡୋମେନ୍ ନିର୍ଦ୍ଦିଷ୍ଟ ମାନଦଣ୍ଡ ଉପରେ ସ୍କୋର ଫଳାଫଳ | ସଫଳତା ହାରରେ ବିଭକ୍ତ API ମୂଲ୍ୟ ଭାବରେ ପ୍ରଭାବଶାଳୀ ମୂଲ୍ୟ ଗଣନା କରନ୍ତୁ | ଯଦି ମଡେଲ୍ ଏ 95 ପ୍ରତିଶତ ସଫଳତା ସହିତ 0.005 ଡଲାର ଏବଂ ମଡେଲ୍ ବି 80 ପ୍ରତିଶତ ସଫଳତା ସହିତ $ 0.003 ଖର୍ଚ୍ଚ ହୁଏ, ମଡେଲ୍ ଏ ପ୍ରଭାବଶାଳୀ ମୂଲ୍ୟ ହେଉଛି $ 0.00526 ଏବଂ ମଡେଲ୍ ବି $ 0.00375, କିନ୍ତୁ ମଡେଲ୍ ବି ମଧ୍ୟ 20 ପ୍ରତିଶତ ବିଫଳତାକୁ ନିୟନ୍ତ୍ରଣ କରିବା ଆବଶ୍ୟକ କରେ ଯାହାର ନିଜସ୍ୱ ମୂଲ୍ୟ ରହିଛି |
ମୁଁ ଏକାଧିକ LLM ପ୍ରଦାନକାରୀ ବ୍ୟବହାର କରିବା ଉଚିତ କି?
ମଲ୍ଟି-ପ୍ରଦାନକାରୀ କ strateg ଶଳ ବିକ୍ରେତା ଲକ୍-ଇନ୍ ବିପଦକୁ ହ୍ରାସ କରେ ଏବଂ ପ୍ରତ୍ୟେକ ପାଇଁ ସର୍ବୋତ୍ତମ ମୂଲ୍ୟ ପ୍ରଦାନକାରୀଙ୍କୁ ବିଭିନ୍ନ ଟାସ୍କ ପ୍ରକାରକୁ ରାଉଟ୍ କରି ମୂଲ୍ୟ ଅପ୍ଟିମାଇଜେସନ୍ ସକ୍ଷମ କରେ | ତଥାପି, ସେମାନେ ଏକାଧିକ API ସଂଯୋଜନା ବଜାୟ ରଖିବା, ବିଭିନ୍ନ ପ୍ରତିକ୍ରିୟା ଫର୍ମାଟ୍ ପରିଚାଳନା କରିବା ଏବଂ ଏକାଧିକ ବିଲିଂ ସମ୍ପର୍କ ପରିଚାଳନା ପାଇଁ ଇଞ୍ଜିନିୟରିଂ ଜଟିଳତା ଯୋଗ କରନ୍ତି | ଏକ ପ୍ରାଗମେଟିକ୍ ପନ୍ଥା ହେଉଛି 80 ରୁ 90 ପ୍ରତିଶତ ଟ୍ରାଫିକ୍ ପାଇଁ ଗୋଟିଏ ପ୍ରାଥମିକ ପ୍ରଦାନକାରୀ ଏବଂ ନିର୍ଦ୍ଦିଷ୍ଟ ବ୍ୟବହାର ମାମଲା ପାଇଁ ଦ୍ secondary ିତୀୟ ପ୍ରଦାନକାରୀ ଯେଉଁଠାରେ ଏହା ସ୍ପଷ୍ଟ ସୁବିଧା ପ୍ରଦାନ କରେ |
ଏଡ଼ାଇବା ଯୋଗ୍ୟ ସାଧାରଣ ଭୁଲ
▾
- !ଗୁଣବତ୍ତାକୁ ବିଚାର ନକରି କେବଳ ଟୋକେନ୍ ମୂଲ୍ୟ ସହିତ ତୁଳନା କରିବା:
- !ମୂଲ୍ୟ ଗଣନାରେ ପ୍ରସଙ୍ଗ ୱିଣ୍ଡୋ ପାର୍ଥକ୍ୟକୁ ଅଣଦେଖା:
- !ପ୍ରଦାନକାରୀଙ୍କ ଉପରେ ରିହାତି ପ୍ରୋଗ୍ରାମ ପାଇଁ ଆକାଉଣ୍ଟିଂ ନୁହେଁ:
ବିଶେଷ ଟିପ
ପ୍ରଥମ ଦିନରୁ ଏକ ମଡେଲ୍ ଅବଷ୍ଟ୍ରାକ୍ସନ୍ ସ୍ତର ସହିତ ଆପଣଙ୍କର ଅନୁପ୍ରୟୋଗ ନିର୍ମାଣ କରନ୍ତୁ ଯାହା ଦ୍ you ାରା ଆପଣ କୋଡ୍ ପୁନ r ଲିଖନ ପରିବର୍ତ୍ତେ ଏକ ବିନ୍ୟାସ ପରିବର୍ତ୍ତନ ସହିତ ପ୍ରଦାନକାରୀଙ୍କୁ ସୁଇଚ୍ କରିପାରିବେ | LiteLLM, LangChain, ଏବଂ Vercel AI SDK ପରି ଲାଇବ୍ରେରୀଗୁଡ଼ିକ ପ୍ରଦାନକାରୀଙ୍କ ମଧ୍ୟରେ ଏକୀକୃତ ଇଣ୍ଟରଫେସ୍ ପ୍ରଦାନ କରେ | କିଛି ଘଣ୍ଟା ଉପରମୁଣ୍ଡର ଏହି ବିନିଯୋଗ ସପ୍ତାହ ପରେ ସ୍ଥାନାନ୍ତରଣ କାର୍ଯ୍ୟକୁ ସଞ୍ଚୟ କରିପାରିବ ଏବଂ ଯେକ any ଣସି ପ୍ରଦାନକାରୀଙ୍କ ଠାରୁ ନୂତନ ମୂଲ୍ୟ କିମ୍ବା ଉନ୍ନତ ମଡେଲଗୁଡିକର ତୁରନ୍ତ ଲାଭ ଉଠାଇବାକୁ ଆପଣଙ୍କୁ ସକ୍ଷମ କରେ |
ଆପଣ ଜାଣନ୍ତି କି?
ଯଦି ଆପଣ ପ୍ରତ୍ୟେକ ପ୍ରମୁଖ LLM API କୁ 500 ଇନପୁଟ୍ ଏବଂ 200 ଆଉଟପୁଟ୍ ଟୋକେନ୍ ସହିତ ସମାନ ଏକ ମିଲିୟନ୍ ଅନୁରୋଧ ପ୍ରକ୍ରିୟାକରଣ ପାଇଁ ବ୍ୟବହାର କରନ୍ତି, ତେବେ ମୋଟ ମୂଲ୍ୟ ମିଥୁନ 1.5 ଫ୍ଲାସରେ $ 52.50 ରୁ କ୍ଲାଉଡ୍ ଓପସ୍ 4 ରେ $ 11,250.00 ପର୍ଯ୍ୟନ୍ତ ହେବ, 214x ମୂଲ୍ୟ ପାର୍ଥକ୍ୟ | ଏହି ବିଶାଳ ପରିସରର ଅର୍ଥ ହେଉଛି ମଡେଲ୍ ଚୟନ ହେଉଛି AI ଇଞ୍ଜିନିୟରିଂରେ ସର୍ବୋଚ୍ଚ-ଲିଭରେଜ୍ ମୂଲ୍ୟ ଅପ୍ଟିମାଇଜେସନ୍ ନିଷ୍ପତ୍ତି |
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
ସନ୍ଦର୍ଭ
ସାପ୍ତାହିକ ଗଣିତ ଟିପ୍ସ ପାଆନ୍ତୁ |
12,000 + ଗ୍ରାହକମାନଙ୍କ ସହିତ ଯୋଗ ଦିଅନ୍ତୁ ଯେଉଁମାନେ ପ୍ରତି ସପ୍ତାହରେ କାଲକୁଲେଟର ଟିପ୍ସ ପାଆନ୍ତି |