Nedir LLM Fine-Tuning Cost Calculator?
▾
LLM İnce Ayar Maliyet Hesaplayıcısı, eğitim hesaplamasını, veri hazırlamayı, doğrulamayı ve ince ayarlı bir model kullanmanın devam eden çıkarım maliyet primini kapsayan, önceden eğitilmiş bir dil modelini belirli verileriniz üzerinde özelleştirmenin toplam masrafını tahmin eder. OpenAI, GPT-4o-mini ince ayarı için milyon eğitim tokenı başına 8 ABD Doları ve GPT-4o için milyon başına 25 ABD Doları ücret almaktadır. Eğitim genellikle veri kümeniz üzerinde 3 ila 4 dönem boyunca çalışır; bu, toplam eğitim belirteçlerinin veri kümesi boyutunuzla çağ sayısı çarpımına eşit olduğu anlamına gelir. Hızlı mühendislik tek başına istenen çıktı formatını, tonu veya etki alanı uzmanlığını elde edemediğinde ince ayar kullanılır. Yaygın kullanım örnekleri arasında belirli çıktı şemalarını takip etmeye, marka sesini eşleştirmeye, hukuk veya tıp gibi alanlarda alana özgü terminolojiyi kullanmaya veya niş sınıflandırma görevlerinde performansı geliştirmeye yönelik eğitim modelleri yer alır. İnce ayar yapma kararı, tek seferlik eğitim maliyeti artı devam eden çıkarım primini, çok sayıda birkaç örnekle daha uzun istemler kullanma alternatifiyle karşılaştıran bir maliyet-fayda analizine dayanmalıdır. Bu hesaplayıcı, makine öğrenimi mühendislerinin ve ürün ekiplerinin, ince ayarın kendi kullanım durumları için ekonomik açıdan uygun olup olmadığına karar vermelerine yardımcı olur. İnce ayarlı bir GPT-4o-mini modelinin maliyeti, bir milyon girdi tokenı başına 0,30 ABD Doları ve çıkarım için bir milyon çıktı tokenı başına 1,20 ABD Dolarıdır; bu, temel model fiyatının iki katıdır. İnce ayar, her istekte 1.000 jetonluk birkaç atışlık istemi ortadan kaldırmanıza olanak tanıyorsa, azaltılmış giriş jetonları, jeton başına daha yüksek orana rağmen ince ayarlı modeli istek başına daha ucuz hale getirebilir.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
Formül
▾
Toplam İnce Ayar Maliyeti = Eğitim Veri Seti Belirteçleri x Dönemler x 1 Milyon Belirteç başına Eğitim Fiyatı / 1.000.000 + Doğrulama Maliyeti + Veri Hazırlama İşçiliği. Örneğin, GPT-4o-mini'de 3 dönem boyunca 500.000 eğitim jetonuyla ince ayar yapılması: Eğitim Maliyeti = 500.000 x 3 x 8,00 ABD Doları / 1.000.000 = 12,00 ABD Doları. Veri hazırlığı 75 ABD Doları/saatte 10 saat sürdüyse, toplam proje maliyeti = 12 ABD Doları + 750 ABD Doları = 762 ABD Doları.Değişken açıklaması
▾
| Sembol | Ad | Birim | Açıklama |
|---|---|---|---|
| D | Eğitim Veri Kümesi Boyutu | tokens | JSONL veri kümesindeki tüm eğitim örnekleri genelinde, her örnekteki sistem, kullanıcı ve asistan mesaj belirteçlerinin toplamı olarak hesaplanan toplam belirteç sayısı. |
| E | Eğitim Dönemleri | epochs | İnce ayar sırasında eğitim veri kümesinden geçen tam geçişlerin sayısı, OpenAI modelleri için genellikle 3 ila 4 arasındadır; daha fazla dönem, küçük veri kümelerine aşırı uyum riskiyle karşı karşıyadır. |
| P_train | Milyon Token Başına Eğitim Fiyatı | USD per 1M tokens | Eğitim hesaplaması için jeton başına maliyet, şu anda GPT-4o-mini için milyon jeton başına 8 ABD doları ve GPT-4o ince ayarı için milyon jeton başına 25 ABD dolarıdır. |
| P_inf | İnce Ayarlı Çıkarım Fiyatı | USD per 1M tokens | İnce ayarlı model için jeton başına çıkarım maliyeti, genellikle temel model ücretinin 2 katıdır: İnce ayarlı GPT-4o-mini için 0,30 ABD doları/1,20 ABD doları. |
| H | Veri Hazırlama Saatleri | hours | Genellikle ince ayar projelerinin en büyük maliyet bileşenini temsil eden eğitim verilerini toplamak, temizlemek, biçimlendirmek ve incelemek için gereken insan emeği saatleri. |
| R | Deneysel Çalışmalar | runs | Üretim kalitesine ulaşmadan önce yapılan ince ayar deneylerinin sayısı; her biri arasında veri kümesi ve hiper parametre ayarlamaları bulunan, genellikle 3 ila 5 çalıştırma. |
Nasıl LLM Fine-Tuning Cost Calculator
▾
- 1Eğitim veri kümenizi sistem, kullanıcı ve asistan mesaj çiftleriyle gerekli JSONL formatında hazırlayın. Her örnek, modelin öğrenmesini istediğiniz davranışı göstermelidir. OpenAI en az 10 örnek önerir ancak gözle görülür kalite iyileştirmeleri için 50 ila 100 örnek önerir. Yüksek kaliteli eğitim verilerinin oluşturulması, incelenmesi ve doğrulanması için önemli miktarda insan çabası gerekir; bu da çoğu zaman projelerin ince ayarını yapmanın en büyük gizli maliyetidir.
- 2Eğitim veri kümenizin jeton sayısını hesaplayın. Her eğitim örneği jetonlaştırılır ve tüm örneklerin toplamı, eğitim maliyetinizi belirler. Her biri ortalama 500 jeton içeren 100 örnekten oluşan bir veri kümesinin toplamı 50.000 jetondur. Eğitim maliyeti aynı zamanda dönem sayısına da bağlıdır (veri kümesinden tam geçişler), OpenAI varsayılan olarak 3 ila 4 dönemdir. Toplam eğitim belirteçleri, veri kümesi belirteçlerinin çağlarla çarpımına eşittir.
- 3İnce ayar için temel modelinizi seçin. GPT-4o-mini ince ayarının maliyeti milyon eğitim tokenı başına 8 ABD dolarıdır ve çoğu kullanım durumu için uygundur. GPT-4o ince ayarının maliyeti milyon eğitim jetonu başına 25 ABD dolarıdır ve en yüksek model yeteneği gerektiren görevlere ayrılmıştır. Seçim, temel modelin (ince ayardan önce) uygun yönlendirmeyle göreviniz için yeterince yetenekli olup olmadığına dayanmalıdır.
- 4İnce ayar işini gönderin ve ilerlemeyi izleyin. Eğitim, veri kümesi boyutuna bağlı olarak genellikle 30 dakika ile birkaç saat arasında tamamlanır. OpenAI, ek bilgi işlem ücreti olmaksızın yalnızca tüketilen eğitim tokenları için ücret alır. Veri kümenizi yinelemek için birden fazla ince ayar denemesi çalıştırabilirsiniz; her çalıştırma tam eğitim maliyetine neden olur. Üretim kalitesine ulaşmadan önce 3 ila 5 deneme çalışması için bütçe ayırın.
- 5İnce ayarlı modeli uzun bir test setine göre değerlendirin. Birkaç çekimli komut istemiyle doğruluğu, format uyumluluğunu ve çıktı kalitesini temel modelle karşılaştırın. İnce ayarlı model, yönlendirilen temel modelden önemli ölçüde daha iyi performans göstermiyorsa, eğitim maliyeti ve devam eden çıkarım primi haklı gösterilmez. İnce ayar projelerinin yaklaşık yüzde 30 ila 40'ı, iyi hazırlanmış istemlere göre anlamlı iyileştirmeler üretmiyor.
- 6Devam eden çıkarım maliyet primini hesaplayın. İnce ayarlı GPT-4o-mini modelleri, temel model için 0,15 dolar ve 0,60 dolar iken, bir milyon giriş tokenı başına 0,30 dolar ve bir milyon çıkış tokenı başına 1,20 dolardır. Bu 2 kat prim, çıktı kalitesindeki iyileştirmeler, azaltılmış istem uzunluğu (artık birkaç çekimli örnek yok) veya azaltılmış son işleme ihtiyacı ile dengelenmelidir. Geri ödeme süresini belirlemek için aylık çıkarım maliyet farkını modelleyin.
- 7Toplam yatırım getirisi hesaplamasını gerçekleştirin. Tek seferlik eğitim maliyetini, veri hazırlama emeğini ve devam eden aylık çıkarım maliyet farkını ekleyin. Daha uzun istemlere sahip temel modeli veya daha yetenekli (ve pahalı) bir temel modeli kullanma alternatifiyle karşılaştırın. Kalite iyileştirmesi müşteri memnuniyeti, hata oranları veya işleme verimliliği gibi iş ölçümlerini ölçülebilir şekilde etkilediğinde ince ayar yatırımı haklı çıkar.
Çözümlü Örnekler
▾
Eğitim hesaplama maliyeti 360.000 eğitim jetonu için minimum 2,88 ABD dolarıdır. Gerçek maliyet, 200 yüksek kaliteli e-posta örneği oluşturmak için 15 saatlik veri hazırlığıdır. Bu, veri hazırlığının bütçeye hakim olduğu projelerin ince ayarının tipik bir örneğidir.
Tıbbi alanda ince ayar yapılması, uzmanların gözden geçirdiği eğitim verilerini gerektirir ve bu da veri hazırlamayı pahalı hale getirir. Her biri 4 dönemde 1.200 token olan 500 örnek, milyon başına 25 ABD Doları tutarında 2,4 milyon eğitim tokeni tüketiyor. Belirteç başına daha yüksek orana rağmen, eğitim hesaplama maliyeti, klinik uzmanın veri hazırlığı için ihtiyaç duyduğu sürenin yanında hâlâ çok az.
Basit format uyumluluğu görevleri için genellikle 50 örnek yeterlidir. Eğitim maliyeti 1 doların altındadır. İnce ayarlı model, her istekte 500 jetonlu JSON şema istemini ortadan kaldırarak GPT-4o-mini'de 1.000 istek başına 0,075 ABD doları tasarruf sağlayabilir. Aylık 100.000 talepte, ayda 7,50 ABD Doları tutarındaki çıkarım tasarrufu, 375 ABD Doları tutarındaki yatırımı 50 ayda geri öder, dolayısıyla hızlı mühendislik burada muhtemelen daha uygun maliyetlidir.
Gerçek dünya uygulamaları
▾
E-ticaret şirketleri, ürün açıklamalarını belirli bir marka sesi ve formatta oluşturmak için GPT-4o-mini'ye ince ayar yapar. 50.000 ürüne sahip bir perakendeci, 200 örnek açıklama oluşturuyor, 3 ABD Doları tutarında hesaplama artı 1.500 ABD Doları değerinde metin yazarı süresi karşılığında veri hazırlığı için ince ayar yapıyor ve ardından yaklaşık 10 ABD Doları tutarında çıkarım karşılığında ince ayarlı modeli kullanarak 50.000 açıklamanın tamamını oluşturuyor. Her bir açıklamayı ürün başına 5 ABD Doları tutarında manuel olarak yazmanın alternatifi 250.000 ABD Dolarına mal olacak ve bu da, ince ayar yapılmasının maliyeti yüzde 99,4 oranında düşürmesini sağlayacaktır.
Sağlık şirketleri, klinik notları SOAP (Öznel, Amaç, Değerlendirme, Plan) gibi standartlaştırılmış formatlara göre yapılandırmak için modellerde ince ayarlar yapar. Bir sağlık teknolojisi startup'ı, doktorların harcadığı zaman olarak 5.000 ABD doları maliyetle 500 uzman incelemesinden geçmiş eğitim örneği hazırlıyor, 60 ABD doları karşılığında eğitim veriyor ve modeli ayda 50.000 klinik notu işleyecek şekilde dağıtıyor. İnce ayarlı model, yalnızca hızlı mühendislikle yüzde 78'e kıyasla yüzde 95'lik biçimlendirme doğruluğuna ulaşıyor ve bu da yatırımı haklı çıkarıyor.
Finansal hizmet firmaları, mevzuata uygunluk sınıflandırması için modellere ince ayar yapar ve modeli, sözleşmelerdeki ve yazışmalardaki belirli düzenleyici gereklilikleri tanımlayacak şekilde eğitir. Bir uyumluluk ekibi, 12.000 ABD Doları tutarında analist süresi maliyetiyle 4 hafta boyunca 300 açıklamalı örnek oluşturur, 15 ABD Doları tutarında eğitim alır ve modeli ayda 200.000 iletişimi tarayacak şekilde dağıtır. İnce ayarlı model, standart yönlendirmeli temel modele göre yüzde 40 daha fazla uyumluluk sorununu yakalıyor.
Yazılım şirketleri GPT-4o-mini'de kendi özel çerçeve kurallarında ve kodlama standartlarında kod oluşturacak şekilde ince ayar yapar. Bir platform ekibi, stil kılavuzlarını takip ederek 150 kod dönüşümü örneği oluşturuyor, 2 ABD doları karşılığında ince ayar yapıyor ve modeli geliştirici araçlarına entegre ediyor. Geliştiriciler, AI tarafından önerilen kodda yüzde 30 daha az stil kılavuzu ihlali bildiriyor ve bu da kod inceleme döngülerini çekme isteği başına ortalama 15 dakika azaltıyor.
Özel durumlar
▾
Çoklu dil desteği için ince ayar yapılırken eğitim verilerinin tüm hedef dillerdeki örnekleri içermesi gerekir.
Yalnızca İngilizce örneklere göre ince ayar yapılan bir model, öğrenilen davranışı diğer dillere güvenilir bir şekilde uygulamayacaktır. 10 dilli bir dağıtım için dil başına yaklaşık 50 ila 100 örneğe ihtiyacınız vardır, bu da veri hazırlama maliyetini 10 kat artırır. Çok dilli ince ayarlara geçmeden önce, iyi hazırlanmış çok dilli bir sistem isteminin sıfır eğitim maliyetiyle karşılaştırılabilir sonuçlar elde edip edemeyeceğini düşünün.
Sağlık, finans veya hukuk alanlarında güvenlik açısından kritik uygulamalar için,
Sağlık, finans veya hukuk alanlarındaki güvenlik açısından kritik uygulamalar için, ince ayarlı modeller, dağıtımdan önce kapsamlı kırmızı ekip çalışması ve doğrulama gerektirir. Bu doğrulama sürecinin maliyeti (saatte 100 ila 300 ABD Doları tutarında 50 ila 200 saatlik alan adı uzmanı incelemesi), ince ayar maliyetini 10 ila 50 kat aşabilir. Bu doğrulamanın bütçesi, isteğe bağlı bir eklenti olarak değil, düzenlemeye tabi sektörlerdeki herhangi bir ince ayar projesinin zorunlu bir bileşeni olarak.
İstem uzunluğunu azaltmak için ince ayar kullanıldığında (birkaç çekim örneğini ortadan kaldırarak),
İstem uzunluğunu azaltmak için ince ayar kullanırken (birkaç atış örneğini ortadan kaldırarak), başabaş noktasını dikkatli bir şekilde hesaplayın. İnce ayarın toplam maliyeti 500 ABD dolarıysa ve her istekte 800 jetonluk birkaç atış örneğini ortadan kaldırırsa, GPT-4o-mini'de istek başına tasarruf, giriş jetonları için 0,00012 ABD dolarıdır. Başabaş noktası için 4,17 milyon talebe veya bir yıl boyunca ayda yaklaşık 347.000 talebe ihtiyacınız var. Ses düzeyiniz bu eşiğin altındaysa, daha uzun istemlere rağmen birkaç atışlı yaklaşım daha ekonomiktir.
OpenAI İnce Ayar Fiyatlandırması (2025)
▾
| Modeli | Eğitim (1 milyon token başına) | Çıkarım Girişi | Çıkarım Çıkışı | Temel Giriş | Temel Çıkış |
|---|---|---|---|---|---|
| GPT-4o-mini | 8,00$ | 0,30 ABD Doları/1 milyon | 1,20$/1 milyon dolar | 0,15 ABD Doları/1 milyon | 0,60$/1 milyon dolar |
| GPT-4o | 25,00$ | 3,75 ABD doları/1 milyon | 15,00 ABD doları/1 milyon | 2,50 ABD Doları/1 milyon | 10,00 ABD doları/1 milyon |
| GPT-3.5-turbo | 8,00$ | 3,00 ABD Doları/1 milyon | 6,00 ABD Doları/1 milyon | 0,50 ABD Doları/1 milyon | 1,50$/1 milyon dolar |
Sık sorulan sorular
▾
Kaç tane eğitim örneğine ihtiyacım var?
OpenAI minimum 10 örnek önerir ancak anlamlı kalite iyileştirmeleri için 50 ila 100 örnek önerir. Alana özel içerik üretimi gibi karmaşık görevler için 200 ila 500 örnek gerekebilir. 500 örneğin ötesinde, görevinizin değişkenliği çok yüksek olmadığı sürece getirilerin azalması yaygındır. 50 örnekle başlayın, kaliteyi değerlendirin ve yalnızca metrikler ek verilerle iyileşirse daha fazlasını ekleyin.
Hızlı mühendislikle karşılaştırıldığında ince ayar maliyete değer mi?
İnce ayar şu durumlarda buna değer: ince ayarlı model, her istemden pahalı birkaç çekim örneğini ortadan kaldırır (eğitim maliyetinden ayda daha fazla tasarruf sağlar), görev, istem mühendisliğinin başaramayacağı bir tutarlılık gerektirir veya kalite iyileştirmesi doğrudan geliri etkiler. Hızlı mühendislik hedef kalitenin yüzde 90'ını veya daha fazlasını başardığında, görev basit sınıflandırma olduğunda veya çıkarım hacmi devam eden primi haklı çıkaramayacak kadar düşük olduğunda buna değmez.
İnce ayar ne kadar sürer?
OpenAI ince ayarı, veri kümesi boyutuna bağlı olarak genellikle 30 dakika ila 3 saat arasında tamamlanır. Örnek başına 500 jeton içeren 100 örneklik bir veri kümesi bir saatten kısa sürede tamamlanır. Her biri 1.000 token içeren 1.000 örneklik bir veri kümesi 2 ila 3 saat sürebilir. Eğitim tamamlandığında e-posta bildirimi alırsınız ve ince ayarı yapılan model, benzersiz bir model tanımlayıcıyla API aracılığıyla çıkarım için hemen kullanılabilir hale gelir.
Özel veriler üzerinde güvenli bir şekilde ince ayar yapabilir miyim?
Evet, uygun önlemlerle. OpenAI, modellerini eğitmek için API verilerini kullanmaz. İnce ayar verileri, eğitim süreci için geçici olarak saklanır ve daha sonra silinebilir. Katı veri yönetimi gereksinimlerine sahip kuruluşlar için, ek kurumsal güvenlik denetimleri, veri yalıtımı ve SOC 2 ile HIPAA dahil uyumluluk sertifikaları sunan Azure OpenAI Hizmeti aracılığıyla ince ayar yapmayı düşünün.
İnce ayar kaliteyi artırmazsa ne olur?
İnce ayar denemelerinin yaklaşık yüzde 30 ila 40'ı anlamlı iyileştirmeler sağlamaz. Yaygın nedenler arasında yetersiz veya düşük kaliteli eğitim verileri, temel model kapasitesi için fazla karmaşık görevler ve küçük veri kümelerine aşırı uyum yer alır. İlk denemeniz başarısız olursa eğitim örneklerini 2 ila 3 kat artırmayı, uzman incelemesi yoluyla örnek kalitesini artırmayı, dönem sayısını ayarlamayı veya daha yetenekli bir temel modele geçmeyi deneyin.
İnce ayarlı model çıkarım fiyatlandırması nasıl çalışır?
İnce ayarlı modeller, temel model ücretinin yaklaşık 2 katı tutarında faturalandırılır. İnce ayarlı GPT-4o-mini'nin maliyeti milyon girdi tokenı başına 0,30 dolar ve çıktı tokenı başına 1,20 dolardır; temel model için ise 0,15 dolar ve 0,60 dolardır. İnce ayarlı GPT-4o'nun maliyeti milyon girdi başına 3,75 ABD doları ve milyon çıktı başına 15,00 ABD dolarıdır; taban için ise 2,50 ABD doları ve 10,00 ABD dolarıdır. Barındırılan ince ayarlı modeller, etkinken saat başına barındırma ücretine de tabidir.
Kaçınılması Gereken Yaygın Hatalar
▾
- !İstemi Mühendislik Seçeneklerini Tüketmeden Önce İnce Ayar:
- !Veri Hazırlama Maliyetlerinin Hafife Alınması:
- !Devam Eden Çıkarım Maliyeti Primini Unutmak:
Uzman İpucu
Tam bir ince ayar projesine başlamadan önce yalnızca 20 ila 30 örnekle hızlı bir deneme yapın. İnce ayar modeli, bu küçük veri kümesiyle test kümenizde ölçülebilir bir iyileşme gösteriyorsa, bu, ince ayarın göreviniz için uygun bir strateji olduğunu gösterir. 30 örnekte herhangi bir gelişme görülmezse, daha fazla veri eklemenin pek faydası olmaz ve temel model kapasitesinin yeterli olup olmadığını veya görev tanımının iyileştirilmesi gerekip gerekmediğini araştırmalısınız.
Biliyor muydunuz?
100 yüksek kaliteli örnek üzerinde GPT-4o-mini'ye ince ayar yapmanın hesaplama maliyeti yaklaşık 0,24 ABD dolarıdır; bu, bir otomat makinesinden alınan tek bir sakızın maliyetinden daha azdır. Gerçek harcama her zaman bu 100 örneği oluşturmak için gereken insan uzmanlığıdır ve bu da genellikle hesaplamanın 500 ila 2.000 katı kadar maliyetlidir. Bu, önemsiz hesaplama maliyetlerine rağmen ince ayarın insan emeğinin en yoğun olduğu yapay zeka tekniklerinden biri olmasını sağlar.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
Kaynaklar
Haftalık Matematik İpuçları Alın
Her hafta hesap makinesi ipuçları alan 12.000+ aboneye katılın.