---
language:
- tr
license: odc-by
task_categories:
- text-generation
- fill-mask
- text-classification
pretty_name: Mogan Turkish Web
size_categories:
- 10M<n<100M
tags:
- ⁠arxiv:2608.25768
- turkish
- türkçe
- web-corpus
- common-crawl
- pretraining
- language-modeling
- deduplicated
- minhash
- pii-masked
- large-scale
---

# Mogan Turkish Web

A large-scale Turkish web corpus derived from monthly Common Crawl snapshots
covering the period from January 2025 to June 2026. The corpus was
constructed by extracting Turkish-language content from raw Common Crawl
WARC/WET dumps, followed by language filtering, PII masking, and
near-duplicate removal.

📄 **Paper:** [MoganBert-TR: A Turkish Encoder Foundation Model Trained from Scratch with a CLM→MLM Curriculum](https://huggingface.co/papers/2608.25768)

## Dataset Summary

This dataset contains **32,462,870 documents** and roughly **23 billion
tokens**, drawn from monthly Common Crawl acquisitions.

## Data Collection and Processing

1. **Acquisition**: Turkish-language pages were extracted from monthly
   Common Crawl snapshots (`commoncrawl_aws` source).
2. **Language filtering**: each document carries a `lang_score` reflecting
   confidence in Turkish-language identification; low-confidence documents
   were excluded upstream.
3. **PII masking**: documents were scanned for personally identifiable
   information (national ID numbers, phone numbers, email addresses, IBANs,
   and card numbers); detected instances were masked prior to release. The
   `had_pii_masked` field indicates whether any masking was applied to a
   given document.
4. **Near-duplicate removal**: a MinHash + LSH pipeline (126 permutations,
   14 bands of 9 rows each, approximate Jaccard similarity threshold of
   0.75) was applied to remove near-duplicate documents.

## Data Fields

| Field | Type | Description |
|---|---|---|
| `text` | string | Document text |
| `id` | string | Document identifier |
| `url` | string | Source URL |
| `lang_score` | float | Confidence score for Turkish-language identification |
| `source` | string | Acquisition source label (e.g. `commoncrawl_aws`) |
| `had_pii_masked` | bool | Whether PII masking was applied to this document |

## Intended Use

This dataset is intended for pretraining or continued pretraining of
Turkish (or multilingual) language models. As with any web-derived corpus,
it may contain noisy, low-quality, or offensive content despite the
filtering steps described above; downstream users should apply additional
quality or safety filtering appropriate to their use case.

## License

Released under ODC-BY. Common Crawl data is subject to Common Crawl's
Terms of Use.

## Citation

```
@misc{moganturkishweb2026,
      title={Mogan Turkish Web},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/mogan-turkish-web}}
}
```

---

# Mogan Turkish Web (Türkçe)

Ocak 2025 ile Haziran 2026 arasındaki dönemi kapsayan aylık Common Crawl
anlık görüntülerinden türetilmiş büyük ölçekli bir Türkçe web korpüsü. Bu
korpüs, ham Common Crawl WARC/WET dökümlerinden Türkçe içeriğin
çıkarılmasının ardından dil filtreleme, kişisel veri (PII) maskeleme ve
yakın-kopya (near-duplicate) temizliği adımlarından geçirilerek
oluşturulmuştur.

📄 **Makale:** [MoganBert-TR: A Turkish Encoder Foundation Model Trained from Scratch with a CLM→MLM Curriculum](https://huggingface.co/papers/2608.25768)

## Veri Kümesi Özeti

Bu veri kümesi, aylık Common Crawl toplamalarından elde edilmiş
**32.462.870 belge** ve kabaca **23 milyar token** içermektedir.

## Veri Toplama ve İşleme Süreci

1. **Toplama**: Türkçe sayfalar, aylık Common Crawl anlık görüntülerinden
   (`commoncrawl_aws` kaynağı) çıkarılmıştır.
2. **Dil filtreleme**: her belge, Türkçe dil tespitindeki güven düzeyini
   yansıtan bir `lang_score` değeri taşır; düşük güvenilirlikli belgeler
   önceki aşamada elenmiştir.
3. **PII maskeleme**: belgeler kişisel veri (T.C. kimlik numarası, telefon
   numarası, e-posta adresi, IBAN ve kart numarası) açısından taranmış,
   tespit edilen bilgiler yayınlanmadan önce maskelenmiştir. `had_pii_masked`
   alanı, ilgili belgeye herhangi bir maskeleme uygulanıp uygulanmadığını
   belirtir.
4. **Yakın-kopya temizliği**: yakın-kopya belgeleri kaldırmak için bir
   MinHash + LSH pipeline'ı (126 permütasyon, 14 bant x 9 satır, ~0.75
   Jaccard benzerlik eşiği) uygulanmıştır.

## Alan Şeması

| Alan | Tip | Açıklama |
|---|---|---|
| `text` | string | Belge metni |
| `id` | string | Belge kimliği |
| `url` | string | Kaynak URL |
| `lang_score` | float | Türkçe dil tespiti güven skoru |
| `source` | string | Toplama kaynağı etiketi (örn. `commoncrawl_aws`) |
| `had_pii_masked` | bool | Bu belgeye PII maskeleme uygulanıp uygulanmadığı |

## Kullanım Amacı

Bu veri kümesi, Türkçe (veya çok dilli) dil modellerinin ön-eğitimi ya da
sürdürülen ön-eğitimi için tasarlanmıştır. Web kökenli her korpüste olduğu
gibi, yukarıda açıklanan filtreleme adımlarına rağmen gürültülü, düşük
kaliteli veya sakıncalı içerik barındırabilir; alt görevlerde çalışan
kullanıcıların kendi kullanım senaryolarına uygun ek kalite veya güvenlik
filtrelemesi uygulaması önerilir.

## Lisans

ODC-BY lisansı ile yayınlanmıştır. Common Crawl verisi, Common Crawl'ın
Kullanım Koşullarına tabidir.

## Atıf

```
@misc{moganturkishweb2026,
      title={Mogan Turkish Web},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/mogan-turkish-web}}
}
```