hugmanskj/korean-ner

Korean NER Dataset (Synthetic)

한국어 개체명 인식(NER)을 위한 합성 데이터셋입니다.

Dataset Description

이 데이터셋은 자연어처리 실습을 위해 제작된 교육용 합성 데이터셋입니다.

Dataset Summary

• 언어: 한국어 (Korean)
• 도메인: 뉴스 헤드라인 스타일
• 태스크: Token Classification (Named Entity Recognition)
• 태깅 스킴: BIO (Begin-Inside-Outside)
• 생성 방식: 템플릿 기반 합성 데이터 (Synthetic)

Supported Tasks

• Token Classification: 각 토큰에 대해 개체명 태그 예측
• N-to-N Task: 입력 토큰 시퀀스 -> 태그 시퀀스

Languages

한국어 (Korean, ko)

Dataset Structure

Data Instances

{
  "id": 0,
  "tokens": ["삼성전자", "가", "신제품을", "출시했다", "."],
  "ner_tags": ["B-ORG", "O", "O", "O", "O"],
  "text": "삼성전자가 신제품을 출시했다."
}

Data Fields

Field	Type	Description
id	int	샘플 고유 ID
tokens	List[str]	토큰화된 단어 리스트
ner_tags	List[str]	각 토큰에 대한 BIO 태그
text	str	원본 문장

Entity Types

Entity Type	Description	Examples
PER (인물)	사람 이름, 연예인, 스포츠 선수 등	김철수, 손흥민, 아이유
ORG (기관)	회사, 정부 기관, 학교, 방송사 등	삼성전자, 서울대학교, KBS
LOC (장소)	지역, 국가, 시설, 자연지물 등	서울, 한국, 강남, 한강
DAT (날짜)	날짜, 시간, 요일, 기간 표현	오늘, 2024년, 월요일

BIO Tagging Scheme

Tag	Description
O	Outside (개체명이 아님)
B-PER	Begin-Person (인물 개체의 시작)
I-PER	Inside-Person (인물 개체의 내부)
B-ORG	Begin-Organization (기관 개체의 시작)
I-ORG	Inside-Organization (기관 개체의 내부)
B-LOC	Begin-Location (장소 개체의 시작)
I-LOC	Inside-Location (장소 개체의 내부)
B-DAT	Begin-Date (날짜 개체의 시작)
I-DAT	Inside-Date (날짜 개체의 내부)

Data Splits

Split	Examples	Description
train	5,000	학습용 데이터
validation	500	검증용 데이터
test	500	테스트용 데이터

Dataset Creation

Curation Rationale

이 데이터셋은 다음 목적으로 제작되었습니다:

1. 교육용: 딥러닝/NLP 입문자를 위한 실습 데이터
2. 한국어 NLP: 한국어 토큰 분류 모델 학습 및 평가
3. BERT Fine-tuning: 사전학습 모델의 토큰 분류 미세조정 실습
4. BIO 태깅 학습: 시퀀스 라벨링의 기본 개념 이해

Source Data

Initial Data Collection and Normalization

• 생성 방식: 템플릿 기반 합성 (Template-based Synthetic Generation)
• 템플릿 수: 약 50개 이상의 다양한 문장 구조
• 개체명 풀: 각 카테고리별 수십 개의 개체명

Who are the source language producers?

합성 데이터로, 실제 뉴스 기사나 사용자 생성 콘텐츠가 아닙니다.

Annotations

Annotation process

템플릿 기반 자동 생성으로, 문장 생성 시 태그가 함께 결정됩니다.

Who are the annotators?

자동 생성된 레이블 (템플릿 슬롯에 따라 결정)

Personal and Sensitive Information

이 데이터셋은 합성 데이터로, 개인정보나 민감 정보를 포함하지 않습니다. 인물명은 가상 또는 공인의 이름을 사용했습니다.

Considerations for Using the Data

Social Impact of Dataset

교육 목적으로 제작된 데이터셋으로, 실제 뉴스 기사와 다를 수 있습니다.

Discussion of Biases

• 템플릿 기반 생성으로 문장 패턴이 제한적일 수 있습니다
• 실제 텍스트의 복잡성과 다양성을 완전히 반영하지 못합니다
• 교육 및 실습 목적에 적합하며, 실제 서비스 적용에는 추가 검증이 필요합니다

Other Known Limitations

1. 합성 데이터의 한계: 실제 텍스트의 문체나 표현 다양성 부족
2. 토큰화 방식: 간단한 규칙 기반 토큰화 사용 (형태소 분석 미적용)
3. 개체 중첩: 중첩 개체명(nested entities)은 지원하지 않음

Additional Information

Dataset Curators

정상근 ([email protected])

Licensing Information

CC BY 4.0 (Creative Commons Attribution 4.0 International)

이 데이터셋은 교육 목적으로 자유롭게 사용할 수 있습니다.

Citation Information

@dataset{korean_ner_synthetic,
  author = {정상근},
  title = {Korean NER Dataset (Synthetic)},
  year = {2024},
  publisher = {Hugging Face},
  note = {Educational dataset for deep learning textbook}
}

How to Use

Loading the Dataset

from datasets import load_dataset

# Hugging Face Hub에서 로드
dataset = load_dataset("YOUR_USERNAME/korean-ner")

# 또는 로컬 파일에서 로드
dataset = load_dataset("json", data_files={
    "train": "train.json",
    "validation": "valid.json",
    "test": "test.json"
})

Example Usage with BERT

from transformers import AutoTokenizer, AutoModelForTokenClassification
from transformers import DataCollatorForTokenClassification, Trainer, TrainingArguments

# 레이블 정의
label_list = ["O", "B-PER", "I-PER", "B-ORG", "I-ORG", "B-LOC", "I-LOC", "B-DAT", "I-DAT"]
label_to_id = {label: i for i, label in enumerate(label_list)}

# 모델 및 토크나이저 로드
model_name = "klue/bert-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForTokenClassification.from_pretrained(model_name, num_labels=len(label_list))

# 토큰화 함수
def tokenize_and_align_labels(examples):
    tokenized_inputs = tokenizer(
        examples["tokens"],
        truncation=True,
        is_split_into_words=True,
        padding="max_length",
        max_length=128
    )

    labels = []
    for i, label in enumerate(examples["ner_tags"]):
        word_ids = tokenized_inputs.word_ids(batch_index=i)
        label_ids = []
        previous_word_idx = None
        for word_idx in word_ids:
            if word_idx is None:
                label_ids.append(-100)
            elif word_idx != previous_word_idx:
                label_ids.append(label_to_id[label[word_idx]])
            else:
                label_ids.append(-100)  # subword는 -100으로 마스킹
            previous_word_idx = word_idx
        labels.append(label_ids)

    tokenized_inputs["labels"] = labels
    return tokenized_inputs

# 데이터셋 전처리
tokenized_dataset = dataset.map(tokenize_and_align_labels, batched=True)

# 학습
data_collator = DataCollatorForTokenClassification(tokenizer)

training_args = TrainingArguments(
    output_dir="./results",
    num_train_epochs=3,
    per_device_train_batch_size=16,
    per_device_eval_batch_size=16,
    evaluation_strategy="epoch",
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=tokenized_dataset["train"],
    eval_dataset=tokenized_dataset["validation"],
    data_collator=data_collator,
)

trainer.train()

Sample Data

Example 1: Single Entity

Tokens: ["삼성전자", "가", "신제품을", "출시했다", "."]
Tags:   ["B-ORG",    "O",  "O",       "O",       "O"]

Example 2: Multiple Entities

Tokens: ["오늘", "손흥민", "이", "런던", "에서", "경기를", "했다", "."]
Tags:   ["B-DAT", "B-PER", "O", "B-LOC", "O",   "O",     "O",    "O"]

Example 3: Complex Sentence

Tokens: ["삼성전자", "가", "내일", "서울", "에서", "컨퍼런스를", "개최한다", "."]
Tags:   ["B-ORG",    "O",  "B-DAT", "B-LOC", "O",  "O",        "O",       "O"]