Apa itu LLM Fine-Tuning Cost Calculator?
▾
Kalkulator Biaya Penyempurnaan LLM memperkirakan total biaya penyesuaian model bahasa terlatih pada data spesifik Anda, yang mencakup komputasi pelatihan, persiapan data, validasi, dan premi biaya inferensi berkelanjutan karena menggunakan model yang disempurnakan. OpenAI mengenakan biaya $8 per juta token pelatihan untuk penyempurnaan GPT-4o-mini dan $25 per juta untuk GPT-4o. Pelatihan biasanya berjalan selama 3 hingga 4 periode pada kumpulan data Anda, yang berarti total token pelatihan sama dengan ukuran kumpulan data Anda dikalikan dengan jumlah periode. Penyempurnaan digunakan ketika rekayasa cepat saja tidak dapat mencapai format keluaran, nada, atau keahlian domain yang diinginkan. Kasus penggunaan umum mencakup model pelatihan untuk mengikuti skema keluaran tertentu, mencocokkan suara merek, menangani terminologi khusus domain di bidang seperti hukum atau kedokteran, atau meningkatkan kinerja pada tugas klasifikasi khusus. Keputusan untuk melakukan penyesuaian harus didasarkan pada analisis biaya-manfaat yang membandingkan biaya pelatihan satu kali ditambah premi inferensi berkelanjutan dengan alternatif menggunakan petunjuk yang lebih panjang dengan banyak contoh singkat. Kalkulator ini membantu teknisi ML dan tim produk memutuskan apakah penyesuaian dapat dibenarkan secara ekonomi untuk kasus penggunaan mereka. Model GPT-4o-mini yang disempurnakan berharga $0,30 per juta token masukan dan $1,20 per juta token keluaran untuk inferensi, dua kali lipat harga model dasar. Jika penyesuaian memungkinkan Anda menghilangkan permintaan beberapa kali 1.000 token dari setiap permintaan, token input yang dikurangi sebenarnya dapat membuat model yang disesuaikan menjadi lebih murah per permintaan meskipun tarif per token lebih tinggi.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
Rumus
▾
Total Biaya Penyempurnaan = Token Kumpulan Data Pelatihan x Zaman x Harga Pelatihan per 1 Juta Token / 1.000.000 + Biaya Validasi + Tenaga Persiapan Data. Misalnya, menyempurnakan GPT-4o-mini dengan 500.000 token pelatihan selama 3 periode: Biaya Pelatihan = 500.000 x 3 x $8,00 / 1.000.000 = $12,00. Jika persiapan data memakan waktu 10 jam dengan biaya $75/jam, total biaya proyek = $12 + $750 = $762.Keterangan variabel
▾
| Simbol | Nama | Satuan | Deskripsi |
|---|---|---|---|
| D | Ukuran Set Data Pelatihan | tokens | Jumlah token total di seluruh contoh pelatihan dalam kumpulan data JSONL, dihitung sebagai jumlah token pesan sistem, pengguna, dan asisten di setiap contoh. |
| E | Zaman Pelatihan | epochs | Jumlah lintasan yang selesai dalam kumpulan data pelatihan selama penyesuaian, biasanya 3 hingga 4 untuk model OpenAI, dengan lebih banyak periode yang berisiko mengalami overfitting pada kumpulan data kecil. |
| P_train | Harga Pelatihan per Juta Token | USD per 1M tokens | Biaya per token untuk komputasi pelatihan, saat ini $8 per juta token untuk GPT-4o-mini dan $25 per juta token untuk penyesuaian GPT-4o. |
| P_inf | Harga Inferensi yang Diselaraskan | USD per 1M tokens | Biaya inferensi per token untuk model yang telah disempurnakan, yang biasanya 2x tarif model dasar: $0,30/$1,20 untuk GPT-4o-mini yang telah disempurnakan. |
| H | Jam Persiapan Data | hours | Jam kerja manusia diperlukan untuk mengumpulkan, membersihkan, memformat, dan meninjau data pelatihan, yang biasanya merupakan komponen biaya terbesar dalam proyek penyesuaian. |
| R | Eksperimental Berjalan | runs | Jumlah eksperimen penyesuaian sebelum mencapai kualitas produksi, biasanya 3 hingga 5 kali dijalankan dengan set data dan penyesuaian hyperparameter di antara masing-masing eksperimen. |
Cara LLM Fine-Tuning Cost Calculator
▾
- 1Siapkan himpunan data pelatihan Anda dalam format JSONL yang diperlukan dengan pasangan pesan sistem, pengguna, dan asisten. Setiap contoh harus menunjukkan perilaku yang Anda ingin model pelajari. OpenAI merekomendasikan minimal 10 contoh tetapi menyarankan 50 hingga 100 untuk peningkatan kualitas yang nyata. Data pelatihan berkualitas tinggi memerlukan upaya manusia yang signifikan untuk membuat, meninjau, dan memvalidasi, yang sering kali merupakan biaya tersembunyi terbesar dalam proyek penyesuaian.
- 2Hitung jumlah token set data pelatihan Anda. Setiap contoh pelatihan diberi token, dan total seluruh contoh menentukan biaya pelatihan Anda. Kumpulan data yang terdiri dari 100 contoh dengan rata-rata 500 token, masing-masing berjumlah 50.000 token. Biaya pelatihan juga bergantung pada jumlah epoch (lewatan lengkap melalui kumpulan data), dengan OpenAI secara default adalah 3 hingga 4 epoch. Total token pelatihan sama dengan token kumpulan data dikalikan dengan periode.
- 3Pilih model dasar Anda untuk penyesuaian. Penyempurnaan GPT-4o-mini berharga $8 per juta token pelatihan dan cocok untuk sebagian besar kasus penggunaan. Penyempurnaan GPT-4o memerlukan biaya $25 per juta token pelatihan dan dicadangkan untuk tugas yang memerlukan kemampuan model tertinggi. Pilihannya harus didasarkan pada apakah model dasar (sebelum penyesuaian) cukup mampu untuk tugas Anda dengan perintah yang sesuai.
- 4Kirimkan pekerjaan penyesuaian dan pantau kemajuannya. Pelatihan biasanya selesai dalam 30 menit hingga beberapa jam bergantung pada ukuran kumpulan data. OpenAI hanya mengenakan biaya untuk token pelatihan yang digunakan, tanpa biaya komputasi tambahan. Anda dapat menjalankan beberapa eksperimen penyesuaian untuk melakukan iterasi pada kumpulan data Anda, dan setiap proses memerlukan biaya pelatihan penuh. Anggaran untuk 3 hingga 5 percobaan berjalan sebelum mencapai kualitas produksi.
- 5Evaluasi model yang telah disesuaikan dengan set pengujian yang telah dilakukan sebelumnya. Bandingkan akurasi, kepatuhan format, dan kualitas keluaran dengan model dasar dengan perintah beberapa langkah. Jika model yang disempurnakan tidak secara signifikan mengungguli model dasar yang diminta, maka biaya pelatihan dan premi inferensi berkelanjutan tidak dapat dibenarkan. Sekitar 30 hingga 40 persen proyek penyempurnaan tidak menghasilkan perbaikan yang berarti dibandingkan petunjuk yang dibuat dengan baik.
- 6Hitung premi biaya inferensi yang sedang berlangsung. Model GPT-4o-mini yang disempurnakan berharga $0,30 per juta token masukan dan $1,20 per juta token keluaran, dibandingkan dengan $0,15 dan $0,60 untuk model dasar. Premi 2x ini harus diimbangi dengan peningkatan kualitas output, pengurangan durasi prompt (tidak ada lagi contoh beberapa pengambilan gambar), atau pengurangan kebutuhan pasca-pemrosesan. Modelkan perbedaan biaya inferensi bulanan untuk menentukan periode pengembalian modal.
- 7Lakukan penghitungan ROI total. Tambahkan biaya pelatihan satu kali, tenaga persiapan data, dan perbedaan biaya inferensi bulanan yang berkelanjutan. Bandingkan dengan alternatif menggunakan model dasar dengan perintah yang lebih panjang atau model dasar yang lebih mumpuni (dan mahal). Investasi penyesuaian dapat dibenarkan jika peningkatan kualitas berdampak signifikan pada metrik bisnis seperti kepuasan pelanggan, tingkat kesalahan, atau efisiensi pemrosesan.
Contoh Terpecahkan
▾
Biaya komputasi pelatihan minimal $2,88 untuk 360.000 token pelatihan. Biaya sebenarnya adalah 15 jam persiapan data untuk mengumpulkan 200 contoh email berkualitas tinggi. Hal ini merupakan tipikal proyek penyempurnaan dimana persiapan data mendominasi anggaran.
Penyempurnaan domain medis memerlukan data pelatihan yang ditinjau oleh para ahli, sehingga persiapan data menjadi mahal. 500 contoh dengan 1.200 token masing-masing selama 4 periode menggunakan 2,4 juta token pelatihan dengan harga $25 per juta. Meskipun tingkat per token lebih tinggi, biaya komputasi pelatihan masih jauh lebih kecil dibandingkan waktu ahli klinis yang diperlukan untuk persiapan data.
Untuk tugas kepatuhan format sederhana, 50 contoh seringkali sudah cukup. Biaya pelatihan di bawah $1. Model yang disempurnakan ini dapat menghilangkan permintaan skema JSON 500 token dari setiap permintaan, sehingga menghemat $0,075 per 1.000 permintaan di GPT-4o-mini. Dengan 100.000 permintaan bulanan, penghematan inferensi sebesar $7,50 per bulan akan mengembalikan investasi sebesar $375 dalam 50 bulan, sehingga rekayasa yang cepat kemungkinan akan lebih hemat biaya dalam hal ini.
Aplikasi nyata
▾
Perusahaan e-niaga menyempurnakan GPT-4o-mini untuk menghasilkan deskripsi produk dalam suara dan format merek tertentu. Pengecer dengan 50.000 produk membuat 200 contoh deskripsi, menyempurnakan komputasi sebesar $3 ditambah waktu copywriter sebesar $1.500 untuk persiapan data, lalu membuat seluruh 50.000 deskripsi menggunakan model yang telah disesuaikan dengan inferensi sekitar $10. Alternatif menulis setiap deskripsi secara manual seharga $5 per produk akan memakan biaya $250.000, sehingga penyesuaian dapat mengurangi biaya sebesar 99,4 persen.
Perusahaan layanan kesehatan menyempurnakan model untuk menyusun catatan klinis ke dalam format standar seperti SOAP (Subjektif, Objektif, Penilaian, Rencana). Sebuah startup teknologi kesehatan menyiapkan 500 contoh pelatihan yang ditinjau oleh para ahli dengan biaya $5.000 untuk waktu dokter, pelatihan seharga $60, dan menerapkan model untuk memproses 50.000 catatan klinis per bulan. Model yang disempurnakan ini mencapai akurasi pemformatan sebesar 95 persen dibandingkan dengan 78 persen hanya dengan rekayasa cepat, sehingga membenarkan investasi tersebut.
Perusahaan jasa keuangan menyempurnakan model untuk klasifikasi kepatuhan terhadap peraturan, melatih model tersebut untuk mengidentifikasi persyaratan peraturan tertentu dalam kontrak dan korespondensi. Tim kepatuhan membuat 300 contoh beranotasi selama 4 minggu dengan biaya waktu analis sebesar $12.000, pelatihan seharga $15, dan menerapkan model untuk menyaring 200.000 komunikasi per bulan. Model yang disempurnakan ini menangkap 40 persen lebih banyak masalah kepatuhan dibandingkan model dasar dengan perintah standar.
Perusahaan perangkat lunak menyempurnakan GPT-4o-mini untuk menghasilkan kode dalam konvensi kerangka kerja spesifik dan standar pengkodean mereka. Sebuah tim platform membuat 150 contoh transformasi kode mengikuti panduan gaya mereka, menyempurnakannya seharga $2, dan mengintegrasikan model tersebut ke dalam alat pengembang mereka. Pengembang melaporkan 30 persen lebih sedikit pelanggaran panduan gaya dalam kode yang disarankan AI, sehingga mengurangi siklus peninjauan kode rata-rata 15 menit per permintaan penarikan.
Kasus khusus
▾
Saat menyempurnakan dukungan multi-bahasa, data pelatihan harus menyertakan contoh dalam semua bahasa target.
Model yang disempurnakan hanya berdasarkan contoh bahasa Inggris tidak akan dapat menerapkan perilaku yang dipelajari ke bahasa lain secara andal. Untuk penerapan 10 bahasa, Anda memerlukan sekitar 50 hingga 100 contoh per bahasa, sehingga meningkatkan biaya persiapan data sebesar 10x. Pertimbangkan apakah perintah sistem multibahasa yang dibuat dengan baik dapat mencapai hasil yang sebanding tanpa biaya pelatihan sebelum melakukan penyesuaian multibahasa.
Untuk aplikasi yang penting bagi keselamatan dalam bidang kesehatan, keuangan, atau hukum,
Untuk aplikasi yang sangat penting bagi keselamatan di bidang layanan kesehatan, keuangan, atau hukum, model yang disempurnakan memerlukan tim merah dan validasi yang ekstensif sebelum diterapkan. Biaya proses validasi ini (peninjauan ahli domain selama 50 hingga 200 jam dengan biaya $100 hingga $300 per jam) dapat melebihi biaya penyesuaian itu sendiri sebanyak 10 hingga 50 kali lipat. Anggaran untuk validasi ini sebagai komponen wajib dalam setiap proyek penyesuaian di industri yang diatur, bukan sebagai tambahan opsional.
Saat menggunakan penyesuaian untuk mengurangi panjang prompt (menghilangkan beberapa contoh pengambilan gambar),
Saat menggunakan penyesuaian untuk mengurangi panjang prompt (menghilangkan beberapa contoh pengambilan gambar), hitung titik impas dengan hati-hati. Jika penyesuaian memerlukan biaya total $500 dan menghilangkan 800 token contoh beberapa contoh dari setiap permintaan, penghematan per permintaan pada GPT-4o-mini adalah $0,00012 untuk token masukan. Anda memerlukan 4,17 juta permintaan untuk mencapai titik impas, atau sekitar 347.000 permintaan per bulan selama setahun. Jika volume Anda berada di bawah ambang batas ini, pendekatan beberapa kali akan lebih ekonomis meskipun permintaannya lebih lama.
Harga Penyempurnaan OpenAI (2025)
▾
| Model | Pelatihan (per 1 juta token) | Masukan Inferensi | Keluaran Inferensi | Masukan Dasar | Keluaran Dasar |
|---|---|---|---|---|---|
| GPT-4o-mini | $8,00 | $0,30/1 juta | $1,20/1 juta | $0,15/1 juta | $0,60/1 juta |
| GPT-4o | $25,00 | $3,75/1 juta | $15,00/1 juta | $2,50/1 juta | $10,00/1 juta |
| GPT-3.5-turbo | $8,00 | $3,00/1 juta | $6,00/1 juta | $0,50/1 juta | $1,50/1 juta |
Pertanyaan yang sering diajukan
▾
Berapa banyak contoh pelatihan yang saya perlukan?
OpenAI merekomendasikan minimal 10 contoh tetapi menyarankan 50 hingga 100 untuk peningkatan kualitas yang berarti. Untuk tugas kompleks seperti pembuatan konten khusus domain, mungkin diperlukan 200 hingga 500 contoh. Di luar 500 contoh, hasil yang semakin berkurang adalah hal biasa kecuali tugas Anda memiliki variabilitas yang sangat tinggi. Mulailah dengan 50 contoh, evaluasi kualitas, dan tambahkan lebih banyak hanya jika metrik meningkat dengan data tambahan.
Apakah penyempurnaan sepadan dengan biayanya dibandingkan dengan rekayasa cepat?
Penyempurnaan bermanfaat ketika: model yang disempurnakan menghilangkan beberapa contoh yang mahal dari setiap perintah (menghemat lebih banyak per bulan dibandingkan biaya pelatihan), tugas memerlukan konsistensi yang tidak dapat dicapai oleh teknik cepat, atau peningkatan kualitas berdampak langsung pada pendapatan. Hal ini tidak layak dilakukan ketika rekayasa cepat mencapai 90 persen atau lebih dari kualitas target, ketika tugasnya adalah klasifikasi sederhana, atau ketika volume inferensi terlalu rendah untuk membenarkan premi yang ada.
Berapa lama waktu yang dibutuhkan untuk melakukan penyesuaian?
Penyempurnaan OpenAI biasanya selesai dalam 30 menit hingga 3 jam, bergantung pada ukuran kumpulan data. Kumpulan data 100 contoh dengan 500 token per contoh selesai dalam waktu kurang dari satu jam. Kumpulan data 1.000 contoh dengan masing-masing 1.000 token mungkin memerlukan waktu 2 hingga 3 jam. Anda menerima pemberitahuan email saat pelatihan selesai, dan model yang disempurnakan segera tersedia untuk inferensi melalui API dengan pengidentifikasi model unik.
Bisakah saya menyempurnakan data kepemilikan dengan aman?
Ya, dengan tindakan pencegahan yang tepat. OpenAI tidak menggunakan data API untuk melatih modelnya. Data penyempurnaan disimpan sementara untuk proses pelatihan dan dapat dihapus setelahnya. Untuk organisasi dengan persyaratan tata kelola data yang ketat, pertimbangkan untuk melakukan penyesuaian melalui Azure OpenAI Service yang menawarkan kontrol keamanan perusahaan tambahan, isolasi data, dan sertifikasi kepatuhan termasuk SOC 2 dan HIPAA.
Apa yang terjadi jika penyesuaian tidak meningkatkan kualitas?
Sekitar 30 hingga 40 persen upaya penyesuaian tidak menghasilkan perbaikan yang berarti. Penyebab umumnya mencakup data pelatihan yang tidak mencukupi atau berkualitas rendah, tugas yang terlalu rumit untuk kemampuan model dasar, dan overfitting pada kumpulan data kecil. Jika upaya pertama Anda gagal, coba tingkatkan contoh pelatihan sebanyak 2 hingga 3 kali lipat, tingkatkan kualitas contoh melalui tinjauan ahli, sesuaikan jumlah periode, atau beralih ke model dasar yang lebih mumpuni.
Bagaimana cara kerja penetapan harga inferensi model yang disesuaikan?
Model yang disempurnakan ditagih sekitar 2x tarif model dasar. GPT-4o-mini yang disempurnakan berharga $0,30 per juta token masukan dan $1,20 per juta token keluaran dibandingkan $0,15 dan $0,60 untuk model dasar. GPT-4o yang disempurnakan memerlukan biaya $3,75 per juta masukan dan $15,00 per juta keluaran dibandingkan $2,50 dan $10,00 untuk basisnya. Model yang dihosting dengan baik juga dikenakan biaya hosting per jam saat aktif.
Kesalahan Umum yang Harus Dihindari
▾
- !Penyempurnaan Sebelum Menghabiskan Opsi Rekayasa Cepat:
- !Meremehkan Biaya Persiapan Data:
- !Melupakan Premium Biaya Inferensi yang Berkelanjutan:
Tip Pro
Sebelum melakukan proyek penyesuaian penuh, jalankan eksperimen cepat hanya dengan 20 hingga 30 contoh. Jika model yang telah disempurnakan menunjukkan peningkatan yang terukur pada set pengujian Anda dengan kumpulan data kecil ini, hal ini menunjukkan bahwa penyesuaian adalah strategi yang layak untuk tugas Anda. Jika 30 contoh tidak menunjukkan peningkatan, menambahkan lebih banyak data kemungkinan besar tidak akan membantu, dan Anda harus menyelidiki apakah kemampuan model dasar sudah mencukupi atau apakah ketentuan tugas perlu disempurnakan.
Tahukah Anda?
Biaya komputasi untuk menyempurnakan GPT-4o-mini pada 100 contoh berkualitas tinggi adalah sekitar $0,24, lebih murah dibandingkan biaya satu buah tolol dari mesin penjual otomatis. Pengeluaran sebenarnya selalu berupa keahlian manusia yang dibutuhkan untuk membuat 100 contoh tersebut, yang biasanya memakan biaya 500 hingga 2.000 kali lebih banyak daripada biaya komputasi. Hal ini menjadikan penyempurnaan sebagai salah satu teknik AI yang paling memakan banyak tenaga manusia meskipun biaya komputasinya tidak terlalu besar.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
Referensi
Dapatkan Tips Matematika Mingguan
Bergabunglah dengan pelanggan 12.000+ yang mendapatkan tip kalkulator setiap minggu.