Türk Dilleri için Dil Kaynakları ve Araçları

türkiye Türkçe Doğal Dil İşleme Araçları:

İTÜ DDİ grup tarafından hazırlanmış Türkçe Doğal Dil işleme yazılım zinciri

http://tools.nlp.itu.edu.tr/

türkiye Türkçe Dil Kaynakları:

TÜRKÇE YAZILI METİNLER ve DİL AĞAÇLARI:

    İTÜ DDİ Grubu Tarafından hazırlanan:

   ​Diğer Araştırmacı ve Grupları Tarafından hazırlanan:

  • TS Corpus: Bu veri kümesinde, Türkçe sosyal medya metinlerinden derlenmiş 491 milyon etiketli girdi (token) bulunmaktadır.
  • Turkish National Corpus (TNC): TNC 50 milyon çağdaş Türkçe kelimeden oluşan büyük ve genel bir yazılı verili kümesidir. 
  • Bilkent Turkish Writings Dataset: Bu veri kümesinde 2014-2018 yıllarındaki Türkçe yaratıcı yazım dersinden toplanmış içerikler bulunmaktadır. Neredeyse 7000 adet metin CSV formatında indirilebilmek üzere hazırlanmıştır.
  • Sentiment Lexicons for 81 Languages: Bu veri kümesinde, Türkçe dilini de içeren toplam 81 dil için hem negatif hem pozitif duyusallık sözlüğü bulumaktadır.  
  • Old Newspapers: Bu veri kümesinde, çeşitli gazetelerden, sosyal metinlerden ve blog yazılarından derlenmiş birden fazla dil için hazırlanmış doğal dil yazılı metinleri içermektedir. Bu dillerden biri Türkçe olmakla birlikte toplam 17 milyon cümle ve 67 farklı dil içermektedir.
  • English/Turkish Wikipedia Named-Entity Recognition and Text Categorization Dataset: Bu veri kümesi, Türkçe ve İngilizce Vikipedi'den derlenmiş ve otomatik olarak kategorize edilip etiketlenmiştir. Etiketlemeler Varlık Anlam etiketlemesi ve veri kategorize etme çalışmalarında kullanılmaktadır. 
  • Turkish UD: Bu veri kümesinde Türkçe-UD etiketlemeleri bulunmaktadır. 
  • Turkish WordNet: Bu sayfada Türkçe için hazırlanmış WordNet'e ulaşabilirsiniz. 

TÜRKÇE DİL MODELLERİ:

  • ELMo: Bu sayfada Türkçe için önceden eğitilmiş ELMo dil modeline ulaşabilirsiniz. 
  • BERT: Bu sayfada Türkçe için önceden eğitilmiş BERT dil modeline ulaşabilirsiniz.
  • Fasttext: Bu sayfada Türkçe için önceden eğitilmiş Fasttext dil modeline ulaşabilirsiniz.


TÜRKÇE PARALEL VERİ KÜMELERİ:

  • The English-Swedish-Turkish Corpus: Bu veri kümesinde orjinal yazılı metinler ve Türkçe-İsveççe-İngilizce çevirileri bulunmaktadır. Tüm veri, paragraflar, cümleler ve kelimeler birbirleriyle aynı çizgide olcak şekilde organize edilmiştir. 
  • Bianet Corpus: Bu veri kümesinde 3000 adet Türkçe makale içermektedir. Bu makalelerdeki cümleler Kürtçe veya İngilizce çevirileri ile aynı cizgide olacak şekilde hazırlanmıştır. İçerikleri internet üzerinden yayınlanan Bianet gazetesinin arşivlerinden alınmıştır.   
  • OPUS Parallel Corpora: Bu veri kümesinde, Türkçe dahil olmak üzere 40 farklı dil için hizalı cümleler içermektedir. Böylece kullanıcılar çevirilerini farklı diller için karşılaştırabilmektedir.

TÜRKÇE SES VERİ KÜMELERİ:

  • Spoken Turkish Corpus: Bu veri kümesi, 18 farklı Türk radyosunun sesli kayıtlarını barındırmaktadır. Bu veriler ODTÜ Radyo'sunun arşivlerinden alınmıştır.
  • Middle East Technical University Turkish Microphone Speech: Bu veri kümesinde, yaşları 19 ila 50 arasında olan toplam 120 konuşmacının hizalı yazılı ve sözlü metinlerini içermektedir. Veri kümesinde kadın/erkek ayrımı yapabilecek özellikler bulunmaktadır ve her konuşmacı en az 40 cümle konuşmaktadır. Veri kümesi toplamda 500 dakikalık konuşma içermektedir. 
  • Turkish Broadcast News Speech and Transcripts: Bu veri kümesi, 130 saatlık Türk radyo yayınlarını ve onların transkriptlerini içermektedir.

azeri Azerice Dil Kaynakları:

  • en-az-parallel-corpus: Bu veri kümesi, İngilizce-Azerice ve Azerice-İngilizce çevirilerinin içerdiği pararel bir derlemdir.
  • az-corpus-nlp: Azeri dili için DDİ araçlarında kullanılmak üzere hazırlanmış bir derlemdir.
  • azWaC: Azerbaijani corpus from the web: Bu veri kümesi, internet üzerinden derlenmiş Azeri metinlerden oluşmaktadır. Toplamda 94 milyon kelime içermektedir. 
  • University of Leipzig corpus collection:  Bu derlemde farklı dillerde ama aynı ve karşılaştırılabilir formatta veriler bulunmaktadır. Bunlardan biride Azerice dili içindir, internetten (2011,2013 yıllarında derlenmiş) ve Vikipedi kullanılarak hazırlanmıştır.
  • Helsinki University corpus: Yeni Ahit'in Azerice dili için çevrilmiş versiyonudur.
  • azwiki dump: Azerice Vikipedi'nin indirilmiş haline buradan ulaşabilirsiniz. 
  • Azeri at An Crúbadán: Bu derlemde 8M+ kelime Latince arayüzle sunulmaktadır. 
  • Domrachyov-Sudoplatova scraped corpus: Bu derlemde 2189398 kelime ve 100560 cümle Azerice için bulunmaktadır.
  • AZ summarization: Azerice yazılmış makaleler ve başlıklara buradan erişerek ulaşabilirsiniz.
  • Awesome Azeri NLP: Azerice dili için hazırlanmış bir çok doğal dil işleme yazılımı ve yayın çalışmalarının listesine bu sayfadan ulaşabilirsiniz.

AZERİCE DİL MODELLERİ:​​

  • Polyglot morfessor: Azerice için hazırlanmış önden eğitilmiş morfessor modeline buradan erişebilirsiniz., sayı 53.
  • fastText : Azerice dili için 300-boyutlu eğitilmiş fasttext dil modeli.

kazak ​Kazakça Doğal Dil İşleme Araçları:

https://github.com/makazhan/kaznlp

kazak Kazakça Dil Kaynakları:

kırgız Kırgızca Dil Kaynakları:

  • Kyrgyz corpus from the web: Bu veri kümesi, internet üzerinden derlenmiş Kırgız metinlerden oluşmaktadır. Toplamda 19 milyon kelime içermektedir.
  • Kyrgyz UD: bu veri kümesi yakında gelecek UD dillerin arasında bulunmaktadır, henüz açılmamıştır.

özbek Özbekçe Dil Kaynakları:

  • Uzbek Corpus: Bu veri kümesi 2017'de yazılı metinlerden hazırlanmıştır. Toplamda 663,119 adet cümle, 706,385 adet tip ve 9,256,001 adet girdi içermektedir.
  • uzWaC: Uzbek corpus from the web: Bu veri kümesi, internet üzerinden derlenmiş Özbek metinlerden oluşmaktadır. Toplamda 18 milyon kelime içermektedir.

tatar
 
 
 
 
 
 
 
 
Tatarca Dil Kaynakları:

  • Corpus of Written Tatar: Bu veri kümesi, modern Tatar dilinden elde edilmiş yazılı metinler içermektedir. Toplamda 500 milyon kelime içermektedir. (>620 milyon girdi kelime).
  • Tatar National Corpus: Bu veri kümesi, Aralık 2018 itibariyle 180,000,000 girdi kelime içermektedir. Veri kümesi farklı türlerde (kurgu, sosyal media yazıları, resmi dökümanlar, eğitim makaleleri ve bilimsel yazılar vb.) yazılmış yazılı metinler içermektedir.
  • Tatar Belletristic Literature Corpus: Bu veri kümesi, Tatar yazarlar tarafından yazılmış hem normal makaleler hemde şiirler içermektedir.

türkmenistan Türkmence Dil Kaynakları:

uygur Uygurca Dil Kaynakları:

  • UyNeRel: Bu veri kümesi, Uygur Varlık Anlam etiketleme derleminden oluşmaktadır.
  • Uyghur UD: Bu veri kümesinde Uygur-UD etiketlemeleri bulunmaktadır.

​​

Eğer siz de veri kümelerinizin bu sayfada yer almasını istiyorsanız lütfen bize bildirin. ​​