{
  "best_global_step": 130,
  "best_metric": 0.033464256674051285,
  "best_model_checkpoint": "outputs_minimal\\run_20251011_083643\\checkpoint-130",
  "epoch": 4.333333333333333,
  "eval_steps": 5,
  "global_step": 130,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.06666666666666667,
      "grad_norm": 5.610453128814697,
      "learning_rate": 1.1111111111111112e-07,
      "loss": 4.2438,
      "step": 2
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 4.907245635986328,
      "learning_rate": 3.3333333333333335e-07,
      "loss": 4.4083,
      "step": 4
    },
    {
      "epoch": 0.16666666666666666,
      "eval_loss": 4.598848819732666,
      "eval_runtime": 1.4052,
      "eval_samples_per_second": 17.791,
      "eval_steps_per_second": 9.251,
      "step": 5
    },
    {
      "epoch": 0.2,
      "grad_norm": 4.5680413246154785,
      "learning_rate": 5.555555555555556e-07,
      "loss": 4.3072,
      "step": 6
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 5.425318717956543,
      "learning_rate": 7.777777777777778e-07,
      "loss": 4.2046,
      "step": 8
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 4.104091644287109,
      "learning_rate": 1.0000000000000002e-06,
      "loss": 4.0178,
      "step": 10
    },
    {
      "epoch": 0.3333333333333333,
      "eval_loss": 4.594193935394287,
      "eval_runtime": 1.3741,
      "eval_samples_per_second": 18.194,
      "eval_steps_per_second": 9.461,
      "step": 10
    },
    {
      "epoch": 0.4,
      "grad_norm": 4.3809099197387695,
      "learning_rate": 1.2222222222222223e-06,
      "loss": 4.2491,
      "step": 12
    },
    {
      "epoch": 0.4666666666666667,
      "grad_norm": 4.858911037445068,
      "learning_rate": 1.4444444444444445e-06,
      "loss": 4.2148,
      "step": 14
    },
    {
      "epoch": 0.5,
      "eval_loss": 4.584128379821777,
      "eval_runtime": 1.4307,
      "eval_samples_per_second": 17.474,
      "eval_steps_per_second": 9.086,
      "step": 15
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 5.299225330352783,
      "learning_rate": 1.6666666666666667e-06,
      "loss": 4.3613,
      "step": 16
    },
    {
      "epoch": 0.6,
      "grad_norm": 4.970317840576172,
      "learning_rate": 1.888888888888889e-06,
      "loss": 3.9753,
      "step": 18
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 5.623274803161621,
      "learning_rate": 2.1111111111111114e-06,
      "loss": 4.1058,
      "step": 20
    },
    {
      "epoch": 0.6666666666666666,
      "eval_loss": 4.559524059295654,
      "eval_runtime": 1.5048,
      "eval_samples_per_second": 16.613,
      "eval_steps_per_second": 8.639,
      "step": 20
    },
    {
      "epoch": 0.7333333333333333,
      "grad_norm": 7.009560585021973,
      "learning_rate": 2.3333333333333336e-06,
      "loss": 4.153,
      "step": 22
    },
    {
      "epoch": 0.8,
      "grad_norm": 4.913556098937988,
      "learning_rate": 2.5555555555555557e-06,
      "loss": 4.2912,
      "step": 24
    },
    {
      "epoch": 0.8333333333333334,
      "eval_loss": 4.50551700592041,
      "eval_runtime": 1.3899,
      "eval_samples_per_second": 17.988,
      "eval_steps_per_second": 9.354,
      "step": 25
    },
    {
      "epoch": 0.8666666666666667,
      "grad_norm": 5.953683853149414,
      "learning_rate": 2.777777777777778e-06,
      "loss": 4.431,
      "step": 26
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 5.861043930053711,
      "learning_rate": 3e-06,
      "loss": 4.1554,
      "step": 28
    },
    {
      "epoch": 1.0,
      "grad_norm": 4.274231433868408,
      "learning_rate": 3.2222222222222222e-06,
      "loss": 3.9634,
      "step": 30
    },
    {
      "epoch": 1.0,
      "eval_loss": 4.419820785522461,
      "eval_runtime": 1.4018,
      "eval_samples_per_second": 17.835,
      "eval_steps_per_second": 9.274,
      "step": 30
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 5.993837833404541,
      "learning_rate": 3.4444444444444444e-06,
      "loss": 4.0863,
      "step": 32
    },
    {
      "epoch": 1.1333333333333333,
      "grad_norm": 4.855156421661377,
      "learning_rate": 3.666666666666667e-06,
      "loss": 3.8417,
      "step": 34
    },
    {
      "epoch": 1.1666666666666667,
      "eval_loss": 4.280464172363281,
      "eval_runtime": 1.4542,
      "eval_samples_per_second": 17.192,
      "eval_steps_per_second": 8.94,
      "step": 35
    },
    {
      "epoch": 1.2,
      "grad_norm": 6.885803699493408,
      "learning_rate": 3.888888888888889e-06,
      "loss": 4.0099,
      "step": 36
    },
    {
      "epoch": 1.2666666666666666,
      "grad_norm": 6.0179009437561035,
      "learning_rate": 4.111111111111112e-06,
      "loss": 4.0033,
      "step": 38
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 3.966296434402466,
      "learning_rate": 4.333333333333334e-06,
      "loss": 3.7359,
      "step": 40
    },
    {
      "epoch": 1.3333333333333333,
      "eval_loss": 4.097866058349609,
      "eval_runtime": 1.4131,
      "eval_samples_per_second": 17.692,
      "eval_steps_per_second": 9.2,
      "step": 40
    },
    {
      "epoch": 1.4,
      "grad_norm": 5.588074207305908,
      "learning_rate": 4.555555555555556e-06,
      "loss": 3.7905,
      "step": 42
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 6.8362345695495605,
      "learning_rate": 4.777777777777778e-06,
      "loss": 4.0714,
      "step": 44
    },
    {
      "epoch": 1.5,
      "eval_loss": 3.8826184272766113,
      "eval_runtime": 1.4539,
      "eval_samples_per_second": 17.195,
      "eval_steps_per_second": 8.941,
      "step": 45
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 6.4441375732421875,
      "learning_rate": 5e-06,
      "loss": 3.8086,
      "step": 46
    },
    {
      "epoch": 1.6,
      "grad_norm": 5.064472675323486,
      "learning_rate": 5.2222222222222226e-06,
      "loss": 3.5518,
      "step": 48
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 4.165544509887695,
      "learning_rate": 5.444444444444445e-06,
      "loss": 3.1811,
      "step": 50
    },
    {
      "epoch": 1.6666666666666665,
      "eval_loss": 3.6180548667907715,
      "eval_runtime": 1.4252,
      "eval_samples_per_second": 17.542,
      "eval_steps_per_second": 9.122,
      "step": 50
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 4.566246509552002,
      "learning_rate": 5.666666666666667e-06,
      "loss": 3.5986,
      "step": 52
    },
    {
      "epoch": 1.8,
      "grad_norm": 4.567983150482178,
      "learning_rate": 5.888888888888889e-06,
      "loss": 3.2441,
      "step": 54
    },
    {
      "epoch": 1.8333333333333335,
      "eval_loss": 3.3274636268615723,
      "eval_runtime": 1.4607,
      "eval_samples_per_second": 17.115,
      "eval_steps_per_second": 8.9,
      "step": 55
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 4.660602569580078,
      "learning_rate": 6.111111111111111e-06,
      "loss": 3.2986,
      "step": 56
    },
    {
      "epoch": 1.9333333333333333,
      "grad_norm": 3.769497871398926,
      "learning_rate": 6.333333333333334e-06,
      "loss": 3.1064,
      "step": 58
    },
    {
      "epoch": 2.0,
      "grad_norm": 4.268333911895752,
      "learning_rate": 6.555555555555556e-06,
      "loss": 3.0745,
      "step": 60
    },
    {
      "epoch": 2.0,
      "eval_loss": 3.052821636199951,
      "eval_runtime": 1.4694,
      "eval_samples_per_second": 17.014,
      "eval_steps_per_second": 8.847,
      "step": 60
    },
    {
      "epoch": 2.066666666666667,
      "grad_norm": 7.284271717071533,
      "learning_rate": 6.777777777777779e-06,
      "loss": 3.1238,
      "step": 62
    },
    {
      "epoch": 2.1333333333333333,
      "grad_norm": 4.11893367767334,
      "learning_rate": 7.000000000000001e-06,
      "loss": 2.7931,
      "step": 64
    },
    {
      "epoch": 2.1666666666666665,
      "eval_loss": 2.7473340034484863,
      "eval_runtime": 1.4098,
      "eval_samples_per_second": 17.733,
      "eval_steps_per_second": 9.221,
      "step": 65
    },
    {
      "epoch": 2.2,
      "grad_norm": 4.511462211608887,
      "learning_rate": 7.222222222222222e-06,
      "loss": 2.8424,
      "step": 66
    },
    {
      "epoch": 2.2666666666666666,
      "grad_norm": 3.971402883529663,
      "learning_rate": 7.444444444444444e-06,
      "loss": 2.6009,
      "step": 68
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 3.3597252368927,
      "learning_rate": 7.666666666666667e-06,
      "loss": 2.4884,
      "step": 70
    },
    {
      "epoch": 2.3333333333333335,
      "eval_loss": 2.4579455852508545,
      "eval_runtime": 1.4259,
      "eval_samples_per_second": 17.533,
      "eval_steps_per_second": 9.117,
      "step": 70
    },
    {
      "epoch": 2.4,
      "grad_norm": 4.1440253257751465,
      "learning_rate": 7.88888888888889e-06,
      "loss": 2.4693,
      "step": 72
    },
    {
      "epoch": 2.466666666666667,
      "grad_norm": 3.8057823181152344,
      "learning_rate": 8.111111111111112e-06,
      "loss": 2.3021,
      "step": 74
    },
    {
      "epoch": 2.5,
      "eval_loss": 2.177736759185791,
      "eval_runtime": 1.5274,
      "eval_samples_per_second": 16.367,
      "eval_steps_per_second": 8.511,
      "step": 75
    },
    {
      "epoch": 2.533333333333333,
      "grad_norm": 2.9720375537872314,
      "learning_rate": 8.333333333333334e-06,
      "loss": 2.1772,
      "step": 76
    },
    {
      "epoch": 2.6,
      "grad_norm": 3.5414316654205322,
      "learning_rate": 8.555555555555556e-06,
      "loss": 2.157,
      "step": 78
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 3.396733045578003,
      "learning_rate": 8.777777777777778e-06,
      "loss": 2.0045,
      "step": 80
    },
    {
      "epoch": 2.6666666666666665,
      "eval_loss": 1.9051285982131958,
      "eval_runtime": 1.4057,
      "eval_samples_per_second": 17.785,
      "eval_steps_per_second": 9.248,
      "step": 80
    },
    {
      "epoch": 2.7333333333333334,
      "grad_norm": 3.4136478900909424,
      "learning_rate": 9e-06,
      "loss": 1.8646,
      "step": 82
    },
    {
      "epoch": 2.8,
      "grad_norm": 3.6544456481933594,
      "learning_rate": 9.222222222222222e-06,
      "loss": 1.7191,
      "step": 84
    },
    {
      "epoch": 2.8333333333333335,
      "eval_loss": 1.6363606452941895,
      "eval_runtime": 1.4316,
      "eval_samples_per_second": 17.463,
      "eval_steps_per_second": 9.081,
      "step": 85
    },
    {
      "epoch": 2.8666666666666667,
      "grad_norm": 3.796562433242798,
      "learning_rate": 9.444444444444445e-06,
      "loss": 1.7735,
      "step": 86
    },
    {
      "epoch": 2.9333333333333336,
      "grad_norm": 5.002358436584473,
      "learning_rate": 9.666666666666667e-06,
      "loss": 1.6776,
      "step": 88
    },
    {
      "epoch": 3.0,
      "grad_norm": 3.5313045978546143,
      "learning_rate": 9.888888888888889e-06,
      "loss": 1.5608,
      "step": 90
    },
    {
      "epoch": 3.0,
      "eval_loss": 1.3793411254882812,
      "eval_runtime": 1.3982,
      "eval_samples_per_second": 17.88,
      "eval_steps_per_second": 9.298,
      "step": 90
    },
    {
      "epoch": 3.066666666666667,
      "grad_norm": 3.3272876739501953,
      "learning_rate": 1.0111111111111111e-05,
      "loss": 1.4043,
      "step": 92
    },
    {
      "epoch": 3.1333333333333333,
      "grad_norm": 2.814345598220825,
      "learning_rate": 1.0333333333333333e-05,
      "loss": 1.2939,
      "step": 94
    },
    {
      "epoch": 3.1666666666666665,
      "eval_loss": 1.1037827730178833,
      "eval_runtime": 1.3838,
      "eval_samples_per_second": 18.066,
      "eval_steps_per_second": 9.395,
      "step": 95
    },
    {
      "epoch": 3.2,
      "grad_norm": 3.4121196269989014,
      "learning_rate": 1.0555555555555555e-05,
      "loss": 1.1798,
      "step": 96
    },
    {
      "epoch": 3.2666666666666666,
      "grad_norm": 3.0579442977905273,
      "learning_rate": 1.0777777777777778e-05,
      "loss": 1.0908,
      "step": 98
    },
    {
      "epoch": 3.3333333333333335,
      "grad_norm": 3.2252845764160156,
      "learning_rate": 1.1000000000000001e-05,
      "loss": 0.8921,
      "step": 100
    },
    {
      "epoch": 3.3333333333333335,
      "eval_loss": 0.8358808159828186,
      "eval_runtime": 1.461,
      "eval_samples_per_second": 17.111,
      "eval_steps_per_second": 8.898,
      "step": 100
    },
    {
      "epoch": 3.4,
      "grad_norm": 3.360541582107544,
      "learning_rate": 1.1222222222222224e-05,
      "loss": 0.8753,
      "step": 102
    },
    {
      "epoch": 3.466666666666667,
      "grad_norm": 3.1788830757141113,
      "learning_rate": 1.1444444444444446e-05,
      "loss": 0.8476,
      "step": 104
    },
    {
      "epoch": 3.5,
      "eval_loss": 0.6091769933700562,
      "eval_runtime": 1.3914,
      "eval_samples_per_second": 17.968,
      "eval_steps_per_second": 9.343,
      "step": 105
    },
    {
      "epoch": 3.533333333333333,
      "grad_norm": 3.1445837020874023,
      "learning_rate": 1.1666666666666668e-05,
      "loss": 0.7705,
      "step": 106
    },
    {
      "epoch": 3.6,
      "grad_norm": 3.182121992111206,
      "learning_rate": 1.188888888888889e-05,
      "loss": 0.5904,
      "step": 108
    },
    {
      "epoch": 3.6666666666666665,
      "grad_norm": 2.9944844245910645,
      "learning_rate": 1.2111111111111112e-05,
      "loss": 0.6235,
      "step": 110
    },
    {
      "epoch": 3.6666666666666665,
      "eval_loss": 0.411894291639328,
      "eval_runtime": 1.4039,
      "eval_samples_per_second": 17.807,
      "eval_steps_per_second": 9.26,
      "step": 110
    },
    {
      "epoch": 3.7333333333333334,
      "grad_norm": 2.72308611869812,
      "learning_rate": 1.2333333333333334e-05,
      "loss": 0.4289,
      "step": 112
    },
    {
      "epoch": 3.8,
      "grad_norm": 2.649951696395874,
      "learning_rate": 1.2555555555555557e-05,
      "loss": 0.4271,
      "step": 114
    },
    {
      "epoch": 3.8333333333333335,
      "eval_loss": 0.2668825089931488,
      "eval_runtime": 1.3795,
      "eval_samples_per_second": 18.123,
      "eval_steps_per_second": 9.424,
      "step": 115
    },
    {
      "epoch": 3.8666666666666667,
      "grad_norm": 2.880009412765503,
      "learning_rate": 1.2777777777777777e-05,
      "loss": 0.3055,
      "step": 116
    },
    {
      "epoch": 3.9333333333333336,
      "grad_norm": 2.3714723587036133,
      "learning_rate": 1.3000000000000001e-05,
      "loss": 0.2684,
      "step": 118
    },
    {
      "epoch": 4.0,
      "grad_norm": 2.419046401977539,
      "learning_rate": 1.3222222222222221e-05,
      "loss": 0.2343,
      "step": 120
    },
    {
      "epoch": 4.0,
      "eval_loss": 0.16023358702659607,
      "eval_runtime": 1.4191,
      "eval_samples_per_second": 17.617,
      "eval_steps_per_second": 9.161,
      "step": 120
    },
    {
      "epoch": 4.066666666666666,
      "grad_norm": 1.8676931858062744,
      "learning_rate": 1.3444444444444445e-05,
      "loss": 0.1493,
      "step": 122
    },
    {
      "epoch": 4.133333333333334,
      "grad_norm": 2.152453899383545,
      "learning_rate": 1.3666666666666666e-05,
      "loss": 0.136,
      "step": 124
    },
    {
      "epoch": 4.166666666666667,
      "eval_loss": 0.07367248833179474,
      "eval_runtime": 1.4284,
      "eval_samples_per_second": 17.502,
      "eval_steps_per_second": 9.101,
      "step": 125
    },
    {
      "epoch": 4.2,
      "grad_norm": 1.4457124471664429,
      "learning_rate": 1.388888888888889e-05,
      "loss": 0.0865,
      "step": 126
    },
    {
      "epoch": 4.266666666666667,
      "grad_norm": 2.502723455429077,
      "learning_rate": 1.4111111111111112e-05,
      "loss": 0.0663,
      "step": 128
    },
    {
      "epoch": 4.333333333333333,
      "grad_norm": 2.0470452308654785,
      "learning_rate": 1.4333333333333334e-05,
      "loss": 0.0375,
      "step": 130
    },
    {
      "epoch": 4.333333333333333,
      "eval_loss": 0.033464256674051285,
      "eval_runtime": 1.4708,
      "eval_samples_per_second": 16.997,
      "eval_steps_per_second": 8.839,
      "step": 130
    }
  ],
  "logging_steps": 2,
  "max_steps": 1500,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 50,
  "save_steps": 10,
  "stateful_callbacks": {
    "EarlyStoppingCallback": {
      "args": {
        "early_stopping_patience": 5,
        "early_stopping_threshold": 0.0
      },
      "attributes": {
        "early_stopping_patience_counter": 0
      }
    },
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": false
      },
      "attributes": {}
    }
  },
  "total_flos": 1508438304092160.0,
  "train_batch_size": 2,
  "trial_name": null,
  "trial_params": null
}