SalihHub/turkish-triple-extraction-cot

Turkish Triple Extraction with Chain-of-Thought

Türkçe Wikipedia paragraflarından (baş, ilişki, uç) biçiminde bilgi grafiği tripleleri çıkarmayı, açık uçlu bir çıkarım (chain-of-thought) muhakemesiyle birlikte öğreten bir SFT (supervised fine-tuning) veri seti. Amaç, küçük açık kaynaklı bir dil modeline sadece ham paragraf metni verildiğinde, önce aday varlık/ilişkileri değerlendirip hatalı/düşük kaliteli olanları eleyerek, sonra temiz ve doğru tripleleri üretmeyi öğretmek.

Veri nereden geliyor?

• Kaynak: Türkçe Wikipedia paragrafları (278 paragraf, çeşitli konular: astronomi, spor, müzik, tarih, bilim insanları, vb.)
• Ham tripleler deepseek/deepseek-v4-flash-0731:nitro ile 3 adımlı bir pipeline'dan (entity çıkarımı → relation çıkarımı → triple kurma, entity/relation candidate setine bağlı doğrulama) üretildi.
• Pipeline'ın kendi ürettiği hatalı/dayanaksız aday tripleler (HEAD_NOT_IN_ENTITY_SET, TAIL_NOT_IN_ENTITY_SET vb.) ayrıca elendi.
• Kalan kabul edilmiş 1600 triple, ek bir kalite denetiminden geçirildi: dil kirliliği (paragrafa Çince karışmış ilişki ifadeleri), self-loop (baş == uç), tam yinelenenler, aşırı genel/anlamsız uç değerleri ve cümle-uzunluğunda (yüklem yerine tüm cümleyi kopyalayan) ilişki ifadeleri çıkarıldı → 1484 temiz triple kaldı.
• Her paragraftaki tüm aday tripleler (kabul + red, red nedeniyle birlikte) bir araya getirilerek "cevap anahtarı" oluşturuldu; bu cevap anahtarına sadık kalınarak, doğal, paragrafa özgü, birinci-tekil-şahıs bir Türkçe muhakeme metni (thinking) sentetik olarak üretildi. Muhakeme, ret kararlarının kodlarını (LONG_RELATION, CJK, SELF_LOOP, ...) ham haliyle değil, doğal dille (paragraftan somut kanıt göstererek) ifade eder.

Format

Her satır bir paragrafı temsil eder ve şu alanları içerir:

Alan	Açıklama
paragraph_key	Kaynak paragrafın benzersiz kimliği
wikipedia_page	Kaynak Türkçe Wikipedia sayfası URL'i
messages	system / user / assistant rollerinden oluşan sohbet formatı (OpenAI/ShareGPT uyumlu)
triples	Nihai, temiz, kabul edilmiş triple listesi (baş, baş_tipi, ilişki, uç, uç_tipi)
n_triples	triples listesinin uzunluğu (0 olabilir — bkz. aşağı)

messages[2] (assistant) şu yapıdadır:

<think>
...paragrafa özgü Türkçe muhakeme...
</think>

{"triples": [{"baş": "...", "baş_tipi": "...", "ilişki": "...", "uç": "...", "uç_tipi": "..."}, ...]}

5 paragrafta triples: [] — yani hiçbir aday güvenilir bulunmadı ve model bunu açıkça gerekçelendirerek boş liste döndürüyor. Bu, modelin "zorla bir şey uydurmak yerine hiçbir şey çıkarmamayı" öğrenmesi için bilerek dahil edilen örneklerdir.

Bölünme

• train: 264 örnek (%95)
• validation: 14 örnek (%5)

Kullanım (Unsloth / TRL ile fine-tuning)

from datasets import load_dataset
from unsloth.chat_templates import standardize_data_formats

dataset = load_dataset("SalihHub/turkish-triple-extraction-cot", split="train")
dataset = standardize_data_formats(dataset)

def formatting_prompts_func(examples):
    texts = [
        tokenizer.apply_chat_template(m, tokenize=False, add_generation_prompt=False)
        for m in examples["messages"]
    ]
    return {"text": texts}

dataset = dataset.map(formatting_prompts_func, batched=True)

train_on_responses_only (ya da eşdeğeri) ile loss'u yalnızca assistant mesajında hesaplamanız önerilir — system/user tokenlarını maskelemek küçük veri setinde öğrenmeyi hızlandırır.

Sınırlamalar

• Küçük ölçekli bir pilot veri setidir (278 paragraf). Ret örneklerinin dağılımı dengesiz: 116 redden 108'i "ilişki alanı çok uzun/cümle gibi" tipinde; dil karışımı (Çince) sadece 5 örnekte görülüyor. Bu yüzden nadir hata tiplerinde model genellemesi zayıf kalabilir.
• thinking alanı sentetik olarak (gerçek pipeline'ın kabul/red kararlarına sadık kalınarak) üretilmiştir, insan tarafından satır satır doğrulanmamıştır.
• Kaynak metinler Türkçe Wikipedia'dan alınmıştır, dolayısıyla Wikipedia'nın CC BY-SA 4.0 lisansına tabidir.