Korece STT Doğruluğunu Gerçekten Ölçtük: CLOVA vs ElevenLabs Scribe, Aynı Sesi 24 Kez Çalıştırdık

Naver CLOVA Speech Recognition (CSR) ile ElevenLabs Scribe v1 ve v2'ye aynı 8 Korece ses dosyasını verip karakter hata oranını (CER) ölçtük. Saf Korecede sonuç fiilen berabere; İngilizce karıştığında fark 4 kata çıktı. Ham verileri açık şekilde paylaşıyoruz.

Merhaba, Sonetho burada. ⚡

 

"Korece konuşma tanımada Naver daha iyidir, değil mi?"
Bu cümleyi çok duyuyoruz ama gerçekten ölçen neredeyse yok.
Biz de oturup ölçtük.
Aynı 8 Korece ses dosyasını üç motora verdik ve doğru metinle karakter karakter karşılaştırdık.

 

📊 Sonuç Özeti (Karakter Hata Oranı CER, ne kadar düşükse o kadar doğru)

KategoriCLOVA CSRScribe v1Scribe v2
Duygusal replikler3.2%1.1%1.1%
Haber tarzı okuma0~0.8%0~0.8%0~0.8%
İngilizce ve rakam karışımı36.9~37.7%8.5~13.8%8.5~20.8%
Uzun metin tutarlılığı1.7~7.3%0%0%
Ortalama11.4%3.2%4.0%

 

Önce CLOVA'nın hakkını verelim.
Saf Korecede CSR de fiilen tam puan alıyor.
Haber tarzı okumada üç motor da %0 bandında berabere kaldı.
Sadece bu bölüme bakarsanız hangisini kullansanız olur.

 

💥 Farkı Yaratan Nokta: İngilizce Karışımı

Korece cümleye marka adları ve rakamlar karıştığı anda makas açıldı.
CSR'nin gerçek çıktılarından birkaçını olduğu gibi aktarıyoruz.

 

Doğru metinCLOVA CSR çıktısı
ChatGPT"채취 pt"
Gemini"나재민이", "개 미니"
일레븐랩스 (ElevenLabs)"11 x"
약 15달러 수준 (yani "yaklaşık 15 dolar")"약 시부터 여수 중"

 

YouTube altyazıları, IT içerikleri veya günümüz toplantı notları gibi İngilizce kelimelerin karıştığı seslerde bu fark doğrudan iş yükünüze dönüşüyor.
Aynı bölümde Scribe; ChatGPT, Gemini ve API'yi tamamen orijinal haliyle korudu.

 

🧐 Scribe da Kusursuz Değildi

Dürüst olalım, Scribe'ın hatalarını da paylaşıyoruz.
İlk kez duyduğu özel isimlerde zayıf.
"sonetho.com"u "sonto.com" diye yazdı; bir örnekte de "11달러" (11 dolar) ifadesini "1달러" (1 dolar) olarak duydu.
Rakamların doğrudan parayla ilgili olduğu belgelerde, motor hangisi olursa olsun kontrol şart.

 

v1 ile v2 arasındaki fark da ilginçti.
v2, "22달러" (22 dolar) ifadesini kendiliğinden "$22" olarak normalize ediyor.
Bizim puanlama yöntemimizde (CER) bu hata sayılıyor ama anlam olarak doğru bir çıktı.
Yazımın orijinal hali önemliyse v1, okunması kolay altyazı ve belge hedefliyorsanız v2 doğru seçim.
v2'nin gerçek zamanlı streaming sürümü de var.

 

💰 Fiyatlar Nasıl Farklılaşıyor

ElevenLabs Scribe: saat başı $0.22 (batch bazında).
Ücretsiz plana bile ayda 4,5 saat dahil.
$6'lık Starter 27 saat, $22'lik Creator 100 saat içeriyor; yani çoğu bireysel iş plan sınırları içinde bitiyor.

 

CLOVA Speech Recognition (CSR): 15 saniyelik dilimlere yukarı yuvarlanan, kullandıkça öde modeli.
Net birim fiyatı Naver Cloud fiyat hesaplayıcısından kontrol edin.
Not: CSR kısa konuşmalar için bir API ve 60 saniye sınırı var.
Uzun kayıtlar ve konuşmacı ayrımı gerekiyorsa ayrı bir ürün olan CLOVA Speech kullanmanız gerekiyor.

 

🤔 Peki Hangisini Kullanmalı

CLOVA CSR şu durumlarda doğru seçim
Ağırlıklı olarak saf Korece kısa konuşmalar işliyorsanız.
Projenizde Kore yerel bulut altyapısı şartı varsa.
Ekibiniz zaten Naver Cloud ekosistemini kullanıyorsa.

 

ElevenLabs Scribe şu durumlarda doğru seçim
İngilizce ile Korecenin karıştığı içeriklere altyazı veya toplantı notu hazırlıyorsanız.
IT ve pazarlama seslerinde marka adları sık geçiyorsa.
Ücretsiz 4,5 saatle kaliteyi önce kendiniz test edip sonra karar verebilirsiniz.

 

ElevenLabs Scribe'ı Ücretsiz Deneyin →

 

🧪 Ölçüm Yöntemi (Tekrarlanabilir)

4 kategorideki senaryoları (duygusal replikler, haber tarzı, İngilizce ve rakam karışımı, uzun metin) iki yüksek kaliteli TTS ile (CLOVA Ara Pro ve ElevenLabs Hyuk) sentezleyip 8 ses dosyası oluşturduk.
Her sesi üç motora verip doğru metinle karakter karakter karşılaştırdık (CER).
Sınırlılıkları da açıkça belirtelim.
Girdi TTS sentez sesi olduğu için gürültüsüz, ideal koşullar geçerli; gerçek insan konuşmasında veya gürültülü ortamlarda rakamlar değişebilir.
Bazı hatalar TTS'in telaffuzundan kaynaklanmış da olabilir.

 

❓ Sık Sorulan Sorular (FAQ)

Q. Korece için en doğru STT hangisi?
Bu ölçümde ortalama karakter hata oranında en düşük değer 3.2% ile Scribe v1'e ait.
Ancak saf ve resmi Korecede CLOVA CSR de %0 bandında berabere; yani seçim kriteri, sesinizde İngilizce olup olmadığı.

 

Q. CLOVA Speech Recognition (CSR) ile CLOVA Speech arasındaki fark ne?
CSR, 60 saniyenin altındaki kısa konuşmalar için bir API; CLOVA Speech ise uzun kayıt dosyalarını ve konuşmacı ayrımını destekleyen ayrı bir ürün.
Bu test CSR üzerinden yapıldı.

 

Q. Scribe v1 mi v2 mi?
Yazımın orijinal halini korumak önemliyse v1; para birimi sembolleri gibi yazımları kendiliğinden düzenleyen, okuması kolay çıktı istiyorsanız v2.
v2 ayrıca gerçek zamanlı streaming'i de destekliyor (saat başı $0.39).

 

Röportaj transkripsiyonu ve konuşmacı ayrımının pratiği ElevenLabs vs Whisper vs Deepgram STT karşılaştırması yazısında devam ediyor.
Bir sonraki yazıda görüşmek üzere. Sevgiler, Sonetho. ⚡