Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
Paper
• 1908.10084 • Published
• 12
This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("comet24082002/ft_bge_newLaw_OnlineContrastiveLoss_V2_5epochs")
# Run inference
sentences = [
'Giấy phép học viên bay của nhân viên hàng không có thời hạn hiệu lực không?',
'Gia hạn thời gian làm việc đối với chuyên gia giáo dục\n1. Chuyên gia giáo dục khi hết thời hạn làm việc theo quyết định cử đi làm việc ở nước ngoài, nếu hoàn thành tốt nhiệm vụ quy định tại Điều 7 Quy chế này và có nguyện vọng tiếp tục làm việc ở nước ngoài, được cơ quan chủ quản (nếu có) và cơ quan sử dụng chuyên gia của nước ngoài đồng ý bằng văn bản thì được xem xét gia hạn thời gian làm việc.\nSau 60 ngày làm việc kể từ ngày hết thời hạn làm việc ghi trong Quyết định cử đi làm việc, nếu chuyên gia giáo dục không đề nghị gia hạn thời gian làm việc thì không được xem xét gia hạn thời gian làm việc.\n...',
'Đối tượng áp dụng\nNghị định này áp dụng đối với:\n1. Tác giả, đồng tác giả (sau đây gọi là tác giả) là công dân Việt Nam, người nước ngoài có tác phẩm, cụm tác phẩm, công trình, cụm công trình (sau đây gọi là tác phẩm, công trình) văn học, nghệ thuật đáp ứng các điều kiện, tiêu chuẩn quy định tại các Điều 8, 9 và 10 của Nghị định này, thuộc các chuyên ngành sau đây được đề nghị xét tặng “Giải thưởng Hồ Chí Minh" “Giải thưởng Nhà nước”:\na) Âm nhạc: Tác phẩm thuộc các thể loại âm nhạc; công trình nghiên cứu, lý luận, phê bình về âm nhạc;\n...',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
sentence1, sentence2, and label| sentence1 | sentence2 | label | |
|---|---|---|---|
| type | string | string | int |
| details |
|
|
|
| sentence1 | sentence2 | label |
|---|---|---|
Người đóng bảo hiểm xã hội trên 15 năm thì có được hưởng trợ cấp mai táng nhiều hơn người đóng bảo hiểm xã hội dưới 15 năm không? |
"Điều 66. Trợ cấp mai táng |
1 |
Người đóng bảo hiểm xã hội trên 15 năm thì có được hưởng trợ cấp mai táng nhiều hơn người đóng bảo hiểm xã hội dưới 15 năm không? |
Chính sách đối với người lao động dôi dư được tuyển dụng lần cuối cùng trước ngày 21 tháng 4 năm 1998 hoặc trước ngày 26 tháng 4 năm 2002 |
0 |
Sĩ quan Công an được tặng thưởng Huân chương Chiến công hạng Nhì khi đáp ứng tiêu chuẩn gì? |
"Điều 28. “Huân chương Chiến công” hạng nhất |
1 |
OnlineContrastiveLossper_device_train_batch_size: 4learning_rate: 2e-05num_train_epochs: 5warmup_ratio: 0.1overwrite_output_dir: Falsedo_predict: Falseprediction_loss_only: Trueper_device_train_batch_size: 4per_device_eval_batch_size: 8per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonelearning_rate: 2e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 5max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.1warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Falsefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Falseignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Falsehub_always_push: Falsegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falsefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters: auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Nonedispatch_batches: Nonesplit_batches: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_sampler: batch_samplermulti_dataset_batch_sampler: proportional| Epoch | Step | Training Loss |
|---|---|---|
| 0.0095 | 50 | 0.1183 |
| 0.0190 | 100 | 0.1332 |
| 0.0285 | 150 | 0.1154 |
| 0.0380 | 200 | 0.0859 |
| 0.0475 | 250 | 0.0699 |
| 0.0570 | 300 | 0.0476 |
| 0.0665 | 350 | 0.0637 |
| 0.0760 | 400 | 0.0735 |
| 0.0855 | 450 | 0.0607 |
| 0.0950 | 500 | 0.0786 |
| 0.1045 | 550 | 0.0459 |
| 0.1140 | 600 | 0.0591 |
| 0.1235 | 650 | 0.0666 |
| 0.1330 | 700 | 0.0712 |
| 0.1425 | 750 | 0.0548 |
| 0.1520 | 800 | 0.0641 |
| 0.1615 | 850 | 0.0515 |
| 0.1710 | 900 | 0.0604 |
| 0.1805 | 950 | 0.0484 |
| 0.1900 | 1000 | 0.0415 |
| 0.1995 | 1050 | 0.0732 |
| 0.2090 | 1100 | 0.0586 |
| 0.2185 | 1150 | 0.0431 |
| 0.2281 | 1200 | 0.0788 |
| 0.2376 | 1250 | 0.0527 |
| 0.2471 | 1300 | 0.0454 |
| 0.2566 | 1350 | 0.0638 |
| 0.2661 | 1400 | 0.0734 |
| 0.2756 | 1450 | 0.0524 |
| 0.2851 | 1500 | 0.066 |
| 0.2946 | 1550 | 0.0715 |
| 0.3041 | 1600 | 0.0554 |
| 0.3136 | 1650 | 0.0812 |
| 0.3231 | 1700 | 0.0513 |
| 0.3326 | 1750 | 0.0533 |
| 0.3421 | 1800 | 0.0485 |
| 0.3516 | 1850 | 0.0672 |
| 0.3611 | 1900 | 0.0594 |
| 0.3706 | 1950 | 0.0367 |
| 0.3801 | 2000 | 0.0902 |
| 0.3896 | 2050 | 0.0629 |
| 0.3991 | 2100 | 0.0775 |
| 0.4086 | 2150 | 0.0636 |
| 0.4181 | 2200 | 0.0829 |
| 0.4276 | 2250 | 0.1067 |
| 0.4371 | 2300 | 0.0681 |
| 0.4466 | 2350 | 0.067 |
| 0.4561 | 2400 | 0.0429 |
| 0.4656 | 2450 | 0.0696 |
| 0.4751 | 2500 | 0.0928 |
| 0.4846 | 2550 | 0.0575 |
| 0.4941 | 2600 | 0.0728 |
| 0.5036 | 2650 | 0.0644 |
| 0.5131 | 2700 | 0.0677 |
| 0.5226 | 2750 | 0.0604 |
| 0.5321 | 2800 | 0.0728 |
| 0.5416 | 2850 | 0.0722 |
| 0.5511 | 2900 | 0.0606 |
| 0.5606 | 2950 | 0.0622 |
| 0.5701 | 3000 | 0.0367 |
| 0.5796 | 3050 | 0.0644 |
| 0.5891 | 3100 | 0.0811 |
| 0.5986 | 3150 | 0.0575 |
| 0.6081 | 3200 | 0.0945 |
| 0.6176 | 3250 | 0.0595 |
| 0.6271 | 3300 | 0.0605 |
| 0.6366 | 3350 | 0.0716 |
| 0.6461 | 3400 | 0.0596 |
| 0.6556 | 3450 | 0.0512 |
| 0.6651 | 3500 | 0.0711 |
| 0.6746 | 3550 | 0.0639 |
| 0.6842 | 3600 | 0.0734 |
| 0.6937 | 3650 | 0.0789 |
| 0.7032 | 3700 | 0.0588 |
| 0.7127 | 3750 | 0.0722 |
| 0.7222 | 3800 | 0.0841 |
| 0.7317 | 3850 | 0.0789 |
| 0.7412 | 3900 | 0.0753 |
| 0.7507 | 3950 | 0.0852 |
| 0.7602 | 4000 | 0.0723 |
| 0.7697 | 4050 | 0.0511 |
| 0.7792 | 4100 | 0.0626 |
| 0.7887 | 4150 | 0.0627 |
| 0.7982 | 4200 | 0.0481 |
| 0.8077 | 4250 | 0.0656 |
| 0.8172 | 4300 | 0.0595 |
| 0.8267 | 4350 | 0.0449 |
| 0.8362 | 4400 | 0.0916 |
| 0.8457 | 4450 | 0.0655 |
| 0.8552 | 4500 | 0.0562 |
| 0.8647 | 4550 | 0.0544 |
| 0.8742 | 4600 | 0.063 |
| 0.8837 | 4650 | 0.0629 |
| 0.8932 | 4700 | 0.0798 |
| 0.9027 | 4750 | 0.0417 |
| 0.9122 | 4800 | 0.0675 |
| 0.9217 | 4850 | 0.0661 |
| 0.9312 | 4900 | 0.0616 |
| 0.9407 | 4950 | 0.047 |
| 0.9502 | 5000 | 0.0843 |
| 0.9597 | 5050 | 0.061 |
| 0.9692 | 5100 | 0.0683 |
| 0.9787 | 5150 | 0.0544 |
| 0.9882 | 5200 | 0.0644 |
| 0.9977 | 5250 | 0.0759 |
| 1.0072 | 5300 | 0.0613 |
| 1.0167 | 5350 | 0.0371 |
| 1.0262 | 5400 | 0.063 |
| 1.0357 | 5450 | 0.0528 |
| 1.0452 | 5500 | 0.05 |
| 1.0547 | 5550 | 0.0408 |
| 1.0642 | 5600 | 0.0429 |
| 1.0737 | 5650 | 0.0481 |
| 1.0832 | 5700 | 0.0256 |
| 1.0927 | 5750 | 0.0853 |
| 1.1022 | 5800 | 0.0534 |
| 1.1117 | 5850 | 0.0571 |
| 1.1212 | 5900 | 0.0514 |
| 1.1307 | 5950 | 0.0784 |
| 1.1403 | 6000 | 0.0617 |
| 1.1498 | 6050 | 0.0474 |
| 1.1593 | 6100 | 0.0715 |
| 1.1688 | 6150 | 0.082 |
| 1.1783 | 6200 | 0.0464 |
| 1.1878 | 6250 | 0.0384 |
| 1.1973 | 6300 | 0.0492 |
| 1.2068 | 6350 | 0.046 |
| 1.2163 | 6400 | 0.0449 |
| 1.2258 | 6450 | 0.0545 |
| 1.2353 | 6500 | 0.0301 |
| 1.2448 | 6550 | 0.045 |
| 1.2543 | 6600 | 0.0569 |
| 1.2638 | 6650 | 0.0577 |
| 1.2733 | 6700 | 0.0394 |
| 1.2828 | 6750 | 0.0632 |
| 1.2923 | 6800 | 0.0358 |
| 1.3018 | 6850 | 0.0525 |
| 1.3113 | 6900 | 0.0389 |
| 1.3208 | 6950 | 0.0541 |
| 1.3303 | 7000 | 0.0559 |
| 1.3398 | 7050 | 0.052 |
| 1.3493 | 7100 | 0.0562 |
| 1.3588 | 7150 | 0.0403 |
| 1.3683 | 7200 | 0.0284 |
| 1.3778 | 7250 | 0.0543 |
| 1.3873 | 7300 | 0.0541 |
| 1.3968 | 7350 | 0.0687 |
| 1.4063 | 7400 | 0.0444 |
| 1.4158 | 7450 | 0.0487 |
| 1.4253 | 7500 | 0.0505 |
| 1.4348 | 7550 | 0.0451 |
| 1.4443 | 7600 | 0.0533 |
| 1.4538 | 7650 | 0.0306 |
| 1.4633 | 7700 | 0.0571 |
| 1.4728 | 7750 | 0.0607 |
| 1.4823 | 7800 | 0.0524 |
| 1.4918 | 7850 | 0.0559 |
| 1.5013 | 7900 | 0.0507 |
| 1.5108 | 7950 | 0.0632 |
| 1.5203 | 8000 | 0.0509 |
| 1.5298 | 8050 | 0.0585 |
| 1.5393 | 8100 | 0.0792 |
| 1.5488 | 8150 | 0.0724 |
| 1.5583 | 8200 | 0.0491 |
| 1.5678 | 8250 | 0.0472 |
| 1.5773 | 8300 | 0.0638 |
| 1.5868 | 8350 | 0.0547 |
| 1.5964 | 8400 | 0.0577 |
| 1.6059 | 8450 | 0.0393 |
| 1.6154 | 8500 | 0.0554 |
| 1.6249 | 8550 | 0.0486 |
| 1.6344 | 8600 | 0.0444 |
| 1.6439 | 8650 | 0.0399 |
| 1.6534 | 8700 | 0.0412 |
| 1.6629 | 8750 | 0.0487 |
| 1.6724 | 8800 | 0.0506 |
| 1.6819 | 8850 | 0.0536 |
| 1.6914 | 8900 | 0.0558 |
| 1.7009 | 8950 | 0.0674 |
| 1.7104 | 9000 | 0.061 |
| 1.7199 | 9050 | 0.0467 |
| 1.7294 | 9100 | 0.0537 |
| 1.7389 | 9150 | 0.0423 |
| 1.7484 | 9200 | 0.0502 |
| 1.7579 | 9250 | 0.0462 |
| 1.7674 | 9300 | 0.0583 |
| 1.7769 | 9350 | 0.0525 |
| 1.7864 | 9400 | 0.044 |
| 1.7959 | 9450 | 0.0416 |
| 1.8054 | 9500 | 0.0635 |
| 1.8149 | 9550 | 0.0539 |
| 1.8244 | 9600 | 0.0379 |
| 1.8339 | 9650 | 0.0604 |
| 1.8434 | 9700 | 0.0673 |
| 1.8529 | 9750 | 0.0499 |
| 1.8624 | 9800 | 0.0273 |
| 1.8719 | 9850 | 0.0394 |
| 1.8814 | 9900 | 0.0407 |
| 1.8909 | 9950 | 0.0451 |
| 1.9004 | 10000 | 0.0356 |
| 1.9099 | 10050 | 0.0409 |
| 1.9194 | 10100 | 0.0426 |
| 1.9289 | 10150 | 0.057 |
| 1.9384 | 10200 | 0.0456 |
| 1.9479 | 10250 | 0.0404 |
| 1.9574 | 10300 | 0.0396 |
| 1.9669 | 10350 | 0.0407 |
| 1.9764 | 10400 | 0.0483 |
| 1.9859 | 10450 | 0.0457 |
| 1.9954 | 10500 | 0.0413 |
| 2.0049 | 10550 | 0.0455 |
| 2.0144 | 10600 | 0.0385 |
| 2.0239 | 10650 | 0.0391 |
| 2.0334 | 10700 | 0.0266 |
| 2.0429 | 10750 | 0.0386 |
| 2.0525 | 10800 | 0.0201 |
| 2.0620 | 10850 | 0.0208 |
| 2.0715 | 10900 | 0.0388 |
| 2.0810 | 10950 | 0.0484 |
| 2.0905 | 11000 | 0.0356 |
| 2.1000 | 11050 | 0.0553 |
| 2.1095 | 11100 | 0.0373 |
| 2.1190 | 11150 | 0.031 |
| 2.1285 | 11200 | 0.034 |
| 2.1380 | 11250 | 0.0256 |
| 2.1475 | 11300 | 0.0338 |
| 2.1570 | 11350 | 0.0263 |
| 2.1665 | 11400 | 0.0413 |
| 2.1760 | 11450 | 0.0242 |
| 2.1855 | 11500 | 0.0385 |
| 2.1950 | 11550 | 0.0351 |
| 2.2045 | 11600 | 0.0472 |
| 2.2140 | 11650 | 0.049 |
| 2.2235 | 11700 | 0.0263 |
| 2.2330 | 11750 | 0.0279 |
| 2.2425 | 11800 | 0.0348 |
| 2.2520 | 11850 | 0.0422 |
| 2.2615 | 11900 | 0.0338 |
| 2.2710 | 11950 | 0.0333 |
| 2.2805 | 12000 | 0.0466 |
| 2.2900 | 12050 | 0.0338 |
| 2.2995 | 12100 | 0.0273 |
| 2.3090 | 12150 | 0.0381 |
| 2.3185 | 12200 | 0.025 |
| 2.3280 | 12250 | 0.0627 |
| 2.3375 | 12300 | 0.0274 |
| 2.3470 | 12350 | 0.0519 |
| 2.3565 | 12400 | 0.0321 |
| 2.3660 | 12450 | 0.0251 |
| 2.3755 | 12500 | 0.0371 |
| 2.3850 | 12550 | 0.033 |
| 2.3945 | 12600 | 0.0363 |
| 2.4040 | 12650 | 0.0334 |
| 2.4135 | 12700 | 0.0387 |
| 2.4230 | 12750 | 0.0416 |
| 2.4325 | 12800 | 0.0308 |
| 2.4420 | 12850 | 0.0299 |
| 2.4515 | 12900 | 0.0326 |
| 2.4610 | 12950 | 0.03 |
| 2.4705 | 13000 | 0.0261 |
| 2.4800 | 13050 | 0.0437 |
| 2.4895 | 13100 | 0.041 |
| 2.4990 | 13150 | 0.0392 |
| 2.5086 | 13200 | 0.0449 |
| 2.5181 | 13250 | 0.0371 |
| 2.5276 | 13300 | 0.0545 |
| 2.5371 | 13350 | 0.0327 |
| 2.5466 | 13400 | 0.0384 |
| 2.5561 | 13450 | 0.025 |
| 2.5656 | 13500 | 0.0374 |
| 2.5751 | 13550 | 0.0382 |
| 2.5846 | 13600 | 0.0472 |
| 2.5941 | 13650 | 0.0319 |
| 2.6036 | 13700 | 0.0409 |
| 2.6131 | 13750 | 0.0372 |
| 2.6226 | 13800 | 0.0363 |
| 2.6321 | 13850 | 0.0298 |
| 2.6416 | 13900 | 0.0316 |
| 2.6511 | 13950 | 0.0363 |
| 2.6606 | 14000 | 0.0318 |
| 2.6701 | 14050 | 0.0444 |
| 2.6796 | 14100 | 0.0546 |
| 2.6891 | 14150 | 0.0284 |
| 2.6986 | 14200 | 0.0288 |
| 2.7081 | 14250 | 0.0375 |
| 2.7176 | 14300 | 0.0524 |
| 2.7271 | 14350 | 0.0489 |
| 2.7366 | 14400 | 0.0414 |
| 2.7461 | 14450 | 0.034 |
| 2.7556 | 14500 | 0.0196 |
| 2.7651 | 14550 | 0.0512 |
| 2.7746 | 14600 | 0.0381 |
| 2.7841 | 14650 | 0.0309 |
| 2.7936 | 14700 | 0.0305 |
| 2.8031 | 14750 | 0.0377 |
| 2.8126 | 14800 | 0.0359 |
| 2.8221 | 14850 | 0.0347 |
| 2.8316 | 14900 | 0.029 |
| 2.8411 | 14950 | 0.0239 |
| 2.8506 | 15000 | 0.0335 |
| 2.8601 | 15050 | 0.0253 |
| 2.8696 | 15100 | 0.0323 |
| 2.8791 | 15150 | 0.039 |
| 2.8886 | 15200 | 0.0276 |
| 2.8981 | 15250 | 0.0275 |
| 2.9076 | 15300 | 0.0374 |
| 2.9171 | 15350 | 0.0378 |
| 2.9266 | 15400 | 0.0355 |
| 2.9361 | 15450 | 0.0293 |
| 2.9456 | 15500 | 0.0313 |
| 2.9552 | 15550 | 0.0279 |
| 2.9647 | 15600 | 0.0283 |
| 2.9742 | 15650 | 0.0339 |
| 2.9837 | 15700 | 0.0628 |
| 2.9932 | 15750 | 0.0264 |
| 3.0027 | 15800 | 0.0389 |
| 3.0122 | 15850 | 0.0285 |
| 3.0217 | 15900 | 0.0229 |
| 3.0312 | 15950 | 0.0269 |
| 3.0407 | 16000 | 0.0309 |
| 3.0502 | 16050 | 0.0186 |
| 3.0597 | 16100 | 0.0202 |
| 3.0692 | 16150 | 0.0195 |
| 3.0787 | 16200 | 0.0193 |
| 3.0882 | 16250 | 0.0204 |
| 3.0977 | 16300 | 0.0204 |
| 3.1072 | 16350 | 0.019 |
| 3.1167 | 16400 | 0.0361 |
| 3.1262 | 16450 | 0.0237 |
| 3.1357 | 16500 | 0.0197 |
| 3.1452 | 16550 | 0.0276 |
| 3.1547 | 16600 | 0.0173 |
| 3.1642 | 16650 | 0.0303 |
| 3.1737 | 16700 | 0.0272 |
| 3.1832 | 16750 | 0.0332 |
| 3.1927 | 16800 | 0.0247 |
| 3.2022 | 16850 | 0.0239 |
| 3.2117 | 16900 | 0.0259 |
| 3.2212 | 16950 | 0.0207 |
| 3.2307 | 17000 | 0.0245 |
| 3.2402 | 17050 | 0.0303 |
| 3.2497 | 17100 | 0.0147 |
| 3.2592 | 17150 | 0.0383 |
| 3.2687 | 17200 | 0.0369 |
| 3.2782 | 17250 | 0.0221 |
| 3.2877 | 17300 | 0.0286 |
| 3.2972 | 17350 | 0.0234 |
| 3.3067 | 17400 | 0.0312 |
| 3.3162 | 17450 | 0.0194 |
| 3.3257 | 17500 | 0.0147 |
| 3.3352 | 17550 | 0.0234 |
| 3.3447 | 17600 | 0.0304 |
| 3.3542 | 17650 | 0.0265 |
| 3.3637 | 17700 | 0.0114 |
| 3.3732 | 17750 | 0.0288 |
| 3.3827 | 17800 | 0.0263 |
| 3.3922 | 17850 | 0.0309 |
| 3.4017 | 17900 | 0.0225 |
| 3.4113 | 17950 | 0.017 |
| 3.4208 | 18000 | 0.0292 |
| 3.4303 | 18050 | 0.0127 |
| 3.4398 | 18100 | 0.0188 |
| 3.4493 | 18150 | 0.017 |
| 3.4588 | 18200 | 0.0193 |
| 3.4683 | 18250 | 0.0192 |
| 3.4778 | 18300 | 0.0341 |
| 3.4873 | 18350 | 0.0233 |
| 3.4968 | 18400 | 0.0287 |
| 3.5063 | 18450 | 0.0277 |
| 3.5158 | 18500 | 0.0291 |
| 3.5253 | 18550 | 0.035 |
| 3.5348 | 18600 | 0.0165 |
| 3.5443 | 18650 | 0.0239 |
| 3.5538 | 18700 | 0.0255 |
| 3.5633 | 18750 | 0.0202 |
| 3.5728 | 18800 | 0.0288 |
| 3.5823 | 18850 | 0.0232 |
| 3.5918 | 18900 | 0.0229 |
| 3.6013 | 18950 | 0.0161 |
| 3.6108 | 19000 | 0.023 |
| 3.6203 | 19050 | 0.0232 |
| 3.6298 | 19100 | 0.0264 |
| 3.6393 | 19150 | 0.0325 |
| 3.6488 | 19200 | 0.028 |
| 3.6583 | 19250 | 0.0318 |
| 3.6678 | 19300 | 0.0278 |
| 3.6773 | 19350 | 0.0224 |
| 3.6868 | 19400 | 0.0239 |
| 3.6963 | 19450 | 0.027 |
| 3.7058 | 19500 | 0.0223 |
| 3.7153 | 19550 | 0.0263 |
| 3.7248 | 19600 | 0.0179 |
| 3.7343 | 19650 | 0.0221 |
| 3.7438 | 19700 | 0.0399 |
| 3.7533 | 19750 | 0.0182 |
| 3.7628 | 19800 | 0.0299 |
| 3.7723 | 19850 | 0.0208 |
| 3.7818 | 19900 | 0.0173 |
| 3.7913 | 19950 | 0.0452 |
| 3.8008 | 20000 | 0.0243 |
| 3.8103 | 20050 | 0.0256 |
| 3.8198 | 20100 | 0.0255 |
| 3.8293 | 20150 | 0.02 |
| 3.8388 | 20200 | 0.0292 |
| 3.8483 | 20250 | 0.0249 |
| 3.8578 | 20300 | 0.0339 |
| 3.8674 | 20350 | 0.0168 |
| 3.8769 | 20400 | 0.0199 |
| 3.8864 | 20450 | 0.0182 |
| 3.8959 | 20500 | 0.0292 |
| 3.9054 | 20550 | 0.039 |
| 3.9149 | 20600 | 0.0208 |
| 3.9244 | 20650 | 0.0243 |
| 3.9339 | 20700 | 0.0253 |
| 3.9434 | 20750 | 0.0212 |
| 3.9529 | 20800 | 0.0206 |
| 3.9624 | 20850 | 0.0299 |
| 3.9719 | 20900 | 0.0237 |
| 3.9814 | 20950 | 0.0228 |
| 3.9909 | 21000 | 0.022 |
| 4.0004 | 21050 | 0.0221 |
| 4.0099 | 21100 | 0.0153 |
| 4.0194 | 21150 | 0.0262 |
| 4.0289 | 21200 | 0.0249 |
| 4.0384 | 21250 | 0.0204 |
| 4.0479 | 21300 | 0.017 |
| 4.0574 | 21350 | 0.0241 |
| 4.0669 | 21400 | 0.016 |
| 4.0764 | 21450 | 0.024 |
| 4.0859 | 21500 | 0.0162 |
| 4.0954 | 21550 | 0.0154 |
| 4.1049 | 21600 | 0.0084 |
| 4.1144 | 21650 | 0.0181 |
| 4.1239 | 21700 | 0.0247 |
| 4.1334 | 21750 | 0.016 |
| 4.1429 | 21800 | 0.0172 |
| 4.1524 | 21850 | 0.017 |
| 4.1619 | 21900 | 0.0204 |
| 4.1714 | 21950 | 0.0181 |
| 4.1809 | 22000 | 0.0178 |
| 4.1904 | 22050 | 0.0142 |
| 4.1999 | 22100 | 0.0096 |
| 4.2094 | 22150 | 0.0241 |
| 4.2189 | 22200 | 0.0145 |
| 4.2284 | 22250 | 0.0117 |
| 4.2379 | 22300 | 0.0144 |
| 4.2474 | 22350 | 0.0208 |
| 4.2569 | 22400 | 0.0286 |
| 4.2664 | 22450 | 0.0079 |
| 4.2759 | 22500 | 0.0154 |
| 4.2854 | 22550 | 0.0332 |
| 4.2949 | 22600 | 0.0223 |
| 4.3044 | 22650 | 0.0198 |
| 4.3139 | 22700 | 0.0177 |
| 4.3235 | 22750 | 0.0179 |
| 4.3330 | 22800 | 0.0301 |
| 4.3425 | 22850 | 0.0122 |
| 4.3520 | 22900 | 0.0211 |
| 4.3615 | 22950 | 0.0139 |
| 4.3710 | 23000 | 0.0097 |
| 4.3805 | 23050 | 0.0106 |
| 4.3900 | 23100 | 0.0171 |
| 4.3995 | 23150 | 0.0184 |
| 4.4090 | 23200 | 0.0226 |
| 4.4185 | 23250 | 0.0147 |
| 4.4280 | 23300 | 0.0102 |
| 4.4375 | 23350 | 0.0192 |
| 4.4470 | 23400 | 0.0198 |
| 4.4565 | 23450 | 0.0169 |
| 4.4660 | 23500 | 0.0231 |
| 4.4755 | 23550 | 0.0157 |
| 4.4850 | 23600 | 0.0101 |
| 4.4945 | 23650 | 0.0145 |
| 4.5040 | 23700 | 0.0174 |
| 4.5135 | 23750 | 0.0189 |
| 4.5230 | 23800 | 0.0094 |
| 4.5325 | 23850 | 0.0124 |
| 4.5420 | 23900 | 0.0136 |
| 4.5515 | 23950 | 0.0162 |
| 4.5610 | 24000 | 0.0056 |
| 4.5705 | 24050 | 0.0168 |
| 4.5800 | 24100 | 0.0172 |
| 4.5895 | 24150 | 0.0157 |
| 4.5990 | 24200 | 0.0245 |
| 4.6085 | 24250 | 0.0173 |
| 4.6180 | 24300 | 0.0154 |
| 4.6275 | 24350 | 0.0159 |
| 4.6370 | 24400 | 0.0104 |
| 4.6465 | 24450 | 0.0163 |
| 4.6560 | 24500 | 0.0189 |
| 4.6655 | 24550 | 0.0082 |
| 4.6750 | 24600 | 0.0156 |
| 4.6845 | 24650 | 0.0144 |
| 4.6940 | 24700 | 0.0309 |
| 4.7035 | 24750 | 0.0162 |
| 4.7130 | 24800 | 0.0148 |
| 4.7225 | 24850 | 0.0196 |
| 4.7320 | 24900 | 0.0168 |
| 4.7415 | 24950 | 0.0164 |
| 4.7510 | 25000 | 0.0178 |
| 4.7605 | 25050 | 0.015 |
| 4.7700 | 25100 | 0.0165 |
| 4.7796 | 25150 | 0.0175 |
| 4.7891 | 25200 | 0.011 |
| 4.7986 | 25250 | 0.0231 |
| 4.8081 | 25300 | 0.0182 |
| 4.8176 | 25350 | 0.0184 |
| 4.8271 | 25400 | 0.0144 |
| 4.8366 | 25450 | 0.0152 |
| 4.8461 | 25500 | 0.0153 |
| 4.8556 | 25550 | 0.0197 |
| 4.8651 | 25600 | 0.012 |
| 4.8746 | 25650 | 0.0166 |
| 4.8841 | 25700 | 0.0233 |
| 4.8936 | 25750 | 0.0178 |
| 4.9031 | 25800 | 0.0129 |
| 4.9126 | 25850 | 0.0193 |
| 4.9221 | 25900 | 0.0149 |
| 4.9316 | 25950 | 0.0122 |
| 4.9411 | 26000 | 0.0145 |
| 4.9506 | 26050 | 0.0149 |
| 4.9601 | 26100 | 0.0163 |
| 4.9696 | 26150 | 0.0262 |
| 4.9791 | 26200 | 0.0207 |
| 4.9886 | 26250 | 0.0177 |
| 4.9981 | 26300 | 0.0234 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
Base model
BAAI/bge-m3