Add files using upload-large-folder tool

mmlu_STEM/few_shot_1/google_gemma-7b/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 305, "1": 414, "2": 442, "3": 488}, "net_accuracy": 0.546388336646786}

mmlu_STEM/few_shot_1/google_gemma-7b/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,29 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,11.045252799987793,9.126474380493164,11.24837589263916,8.970110893249512
+blocks.1.hook_mlp_out,15.471917152404785,13.529068946838379,15.599384307861328,13.264904022216797
+blocks.2.hook_mlp_out,17.254749298095703,15.149455070495605,17.262815475463867,14.71024227142334
+blocks.3.hook_mlp_out,16.944807052612305,14.630666732788086,16.37972640991211,14.640240669250488
+blocks.4.hook_mlp_out,19.38234519958496,16.56806182861328,18.43625259399414,16.770288467407227
+blocks.5.hook_mlp_out,19.84125518798828,17.657777786254883,20.276315689086914,18.440326690673828
+blocks.6.hook_mlp_out,21.03451919555664,18.36969757080078,19.07900619506836,19.410348892211914
+blocks.7.hook_mlp_out,21.26283836364746,18.5133113861084,19.924365997314453,19.851585388183594
+blocks.8.hook_mlp_out,19.908580780029297,17.75465202331543,20.599239349365234,18.41032600402832
+blocks.9.hook_mlp_out,19.990324020385742,17.83686637878418,20.181934356689453,18.88033676147461
+blocks.10.hook_mlp_out,20.48122787475586,18.221153259277344,20.259061813354492,19.17034339904785
+blocks.11.hook_mlp_out,20.790264129638672,18.21720314025879,20.413911819458008,18.68033218383789
+blocks.12.hook_mlp_out,20.96470069885254,17.31924819946289,17.576284408569336,18.050317764282227
+blocks.13.hook_mlp_out,21.200653076171875,17.33906364440918,16.37420082092285,18.370325088500977
+blocks.14.hook_mlp_out,22.00680923461914,18.400310516357422,18.39423370361328,18.920337677001953
+blocks.15.hook_mlp_out,23.94954490661621,20.541471481323242,22.531404495239258,20.80038070678711
+blocks.16.hook_mlp_out,27.43907356262207,23.058473587036133,22.349946975708008,23.990453720092773
+blocks.17.hook_mlp_out,27.52199363708496,23.201597213745117,20.61200523376465,25.421398162841797
+blocks.18.hook_mlp_out,25.986560821533203,21.942039489746094,21.39417839050293,23.290437698364258
+blocks.19.hook_mlp_out,25.51846694946289,21.87650489807129,21.765443801879883,22.410417556762695
+blocks.20.hook_mlp_out,22.772287368774414,19.711870193481445,21.900495529174805,19.390348434448242
+blocks.21.hook_mlp_out,21.357938766479492,18.668363571166992,21.673843383789062,17.97031593322754
+blocks.22.hook_mlp_out,19.93112564086914,17.390134811401367,21.07434844970703,16.520282745361328
+blocks.23.hook_mlp_out,19.72140884399414,17.33732795715332,20.442989349365234,16.39027976989746
+blocks.24.hook_mlp_out,19.124082565307617,16.665555953979492,20.866390228271484,15.510260581970215
+blocks.25.hook_mlp_out,17.573068618774414,15.233633041381836,20.114212036132812,13.640217781066895
+blocks.26.hook_mlp_out,13.628231048583984,11.91098403930664,16.66304588317871,10.760151863098145
+blocks.27.hook_mlp_out,8.478761672973633,7.343667030334473,11.051682472229004,6.740059852600098

mmlu_STEM/few_shot_1/google_gemma-7b/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "google/gemma-7b", "batch_size": 16, "dataset_name": "mmlu_STEM", "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 1}

mmlu_STEM/few_shot_1/google_gemma-7b/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "google/gemma-7b", "dataset_name": "mmlu_STEM", "distance_metric": "euclidean", "batch_size": 16, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 1}

mmlu_STEM/few_shot_1/google_gemma-7b/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,3019 @@
+Labels,Predictions
+0,0
+0,2
+1,2
+1,1
+0,0
+0,0
+1,1
+2,1
+0,0
+0,2
+0,0
+3,3
+0,1
+2,1
+1,1
+1,1
+3,3
+0,0
+2,2
+3,2
+1,3
+1,1
+2,3
+3,3
+2,1
+2,1
+2,2
+2,2
+0,3
+2,2
+1,3
+2,2
+2,0
+0,2
+0,0
+2,1
+2,2
+2,1
+2,3
+2,0
+0,0
+2,0
+2,2
+1,1
+1,1
+2,2
+3,2
+1,1
+3,2
+3,1
+2,3
+2,1
+1,1
+2,3
+1,1
+1,3
+1,3
+2,2
+2,2
+1,1
+3,0
+2,2
+0,2
+3,3
+3,1
+2,2
+2,2
+3,2
+3,3
+2,2
+1,3
+2,1
+0,0
+3,3
+2,0
+2,3
+3,3
+2,2
+3,3
+0,2
+3,3
+0,3
+2,2
+3,3
+0,1
+3,2
+1,1
+3,3
+2,2
+3,0
+3,3
+1,1
+3,3
+2,2
+0,3
+2,2
+1,1
+0,2
+0,0
+2,2
+2,2
+1,1
+1,2
+1,1
+3,3
+0,0
+0,0
+1,1
+1,1
+2,3
+0,1
+2,2
+3,3
+1,1
+1,0
+2,2
+2,0
+3,2
+2,0
+3,3
+3,3
+3,3
+2,2
+1,0
+0,0
+2,2
+3,3
+0,3
+2,2
+0,0
+0,0
+0,0
+3,3
+2,2
+2,2
+2,2
+1,1
+2,2
+1,1
+3,1
+1,2
+0,0
+1,1
+2,1
+1,1
+0,0
+0,1
+1,3
+1,1
+3,2
+3,2
+2,1
+0,2
+1,1
+1,3
+1,1
+1,1
+1,0
+3,2
+0,3
+0,0
+3,0
+0,0
+2,0
+0,0
+3,3
+0,0
+2,1
+0,2
+1,2
+0,2
+1,2
+1,1
+3,0
+1,2
+0,1
+2,1
+2,2
+0,0
+1,2
+2,3
+3,3
+2,1
+0,3
+1,1
+0,3
+2,1
+3,2
+3,3
+1,1
+2,2
+2,1
+1,1
+0,2
+3,3
+3,1
+0,3
+1,3
+0,0
+2,2
+3,3
+3,3
+3,1
+2,1
+0,0
+2,1
+0,3
+1,1
+1,3
+3,3
+3,1
+2,3
+2,3
+2,1
+3,3
+2,2
+0,3
+1,2
+3,1
+2,3
+1,1
+0,3
+3,0
+0,1
+0,0
+3,3
+0,0
+2,2
+3,1
+3,0
+1,1
+0,0
+0,0
+3,1
+0,3
+1,1
+0,0
+3,3
+0,0
+3,2
+1,1
+1,1
+3,2
+1,2
+1,1
+3,3
+1,1
+1,1
+2,3
+3,3
+3,2
+3,2
+1,3
+0,2
+0,1
+1,3
+2,3
+2,3
+0,0
+0,0
+2,2
+3,3
+3,1
+0,2
+2,3
+3,3
+0,0
+0,3
+1,3
+2,2
+3,2
+3,2
+1,0
+3,3
+3,2
+0,0
+3,3
+2,2
+1,1
+3,3
+0,2
+3,3
+1,2
+2,1
+2,1
+1,1
+0,1
+3,3
+3,3
+2,2
+3,3
+3,3
+3,3
+3,1
+1,1
+2,2
+3,1
+1,2
+0,2
+3,1
+1,2
+1,3
+0,0
+2,3
+2,2
+1,3
+1,2
+0,1
+3,1
+3,2
+2,0
+3,3
+2,1
+2,1
+2,2
+3,3
+0,0
+2,2
+3,3
+1,1
+1,1
+2,2
+1,1
+2,2
+1,3
+3,3
+1,1
+1,1
+3,2
+1,0
+0,2
+3,3
+3,1
+1,1
+2,2
+2,2
+0,3
+2,1
+0,1
+0,3
+1,3
+2,2
+0,0
+0,2
+1,1
+2,2
+2,1
+1,0
+3,2
+3,3
+0,0
+2,2
+1,1
+1,3
+3,3
+3,3
+3,1
+0,0
+2,2
+3,3
+1,1
+0,0
+3,3
+1,1
+3,2
+3,2
+3,2
+1,1
+3,3
+1,1
+3,1
+1,0
+2,1
+2,2
+3,2
+2,1
+3,1
+3,0
+2,2
+2,1
+0,3
+3,3
+1,2
+3,3
+0,0
+0,0
+3,0
+3,0
+0,2
+3,1
+2,2
+2,2
+0,0
+1,2
+3,3
+2,2
+2,1
+3,3
+0,1
+0,3
+1,2
+1,1
+2,3
+1,1
+3,1
+0,1
+2,2
+1,1
+3,1
+2,1
+1,1
+2,0
+2,2
+3,3
+1,1
+3,2
+2,2
+2,3
+3,3
+0,2
+3,1
+2,2
+3,3
+0,0
+3,3
+1,1
+2,1
+2,2
+3,1
+3,3
+3,3
+2,2
+3,0
+1,1
+1,1
+3,1
+0,0
+2,2
+0,0
+3,3
+3,3
+2,3
+2,3
+0,0
+3,1
+2,2
+1,0
+3,0
+0,1
+3,3
+3,3
+3,1
+1,1
+2,1
+0,1
+3,2
+2,3
+3,2
+3,2
+0,3
+0,0
+2,3
+2,0
+3,3
+3,3
+2,2
+3,3
+2,2
+3,1
+0,2
+3,2
+0,0
+3,1
+2,2
+1,1
+0,0
+1,1
+0,0
+1,2
+3,3
+2,1
+3,3
+3,0
+0,2
+1,2
+3,2
+0,0
+2,3
+1,1
+1,1
+1,1
+3,3
+2,2
+1,1
+2,2
+0,1
+1,1
+2,0
+1,1
+1,1
+1,1
+1,1
+3,3
+2,2
+3,3
+3,3
+2,2
+3,3
+0,1
+2,0
+0,0
+3,1
+0,0
+1,0
+3,3
+0,0
+0,1
+2,0
+1,2
+0,0
+2,3
+3,3
+1,2
+0,3
+1,1
+3,3
+2,2
+1,1
+0,0
+1,2
+1,1
+2,2
+3,3
+3,3
+3,2
+2,3
+2,2
+1,3
+3,3
+3,2
+1,1
+2,2
+3,3
+2,2
+3,1
+3,3
+0,0
+2,2
+2,1
+1,1
+1,1
+1,1
+2,3
+0,0
+3,1
+1,3
+1,1
+1,1
+0,0
+3,2
+3,1
+2,3
+0,0
+3,3
+2,2
+0,1
+2,2
+1,1
+2,2
+3,3
+0,0
+2,2
+2,1
+0,2
+1,1
+0,0
+1,1
+2,2
+2,2
+3,0
+3,3
+3,3
+2,2
+3,2
+3,1
+0,0
+2,0
+3,1
+0,3
+0,2
+0,0
+1,2
+3,3
+0,0
+1,1
+2,2
+3,3
+2,2
+0,3
+1,2
+2,3
+3,3
+1,0
+3,2
+1,1
+0,1
+3,3
+3,3
+2,1
+3,0
+3,3
+2,2
+3,3
+1,1
+3,0
+2,2
+2,1
+2,1
+1,1
+3,3
+3,0
+3,0
+2,3
+3,3
+3,3
+3,3
+1,1
+2,3
+1,1
+2,3
+2,1
+1,3
+1,1
+3,1
+1,2
+1,1
+3,3
+1,1
+2,2
+0,2
+1,0
+2,2
+0,0
+2,2
+3,3
+0,1
+0,0
+2,2
+0,2
+2,2
+1,2
+2,3
+2,2
+3,3
+1,1
+2,2
+3,2
+3,0
+3,3
+2,2
+2,2
+1,1
+1,1
+0,2
+3,3
+1,2
+3,3
+0,0
+3,2
+1,0
+2,2
+2,2
+2,2
+2,0
+2,1
+1,2
+2,2
+3,2
+2,1
+0,0
+0,1
+1,1
+2,2
+3,0
+3,3
+1,1
+0,1
+1,1
+3,3
+0,0
+3,3
+1,1
+1,0
+0,2
+1,3
+1,2
+3,1
+0,0
+1,1
+0,2
+0,2
+2,3
+2,2
+3,3
+2,2
+2,1
+3,3
+3,3
+3,3
+2,2
+3,3
+2,2
+3,1
+0,0
+2,3
+3,1
+1,1
+0,1
+0,0
+2,2
+1,0
+0,0
+2,2
+1,1
+3,3
+3,3
+2,1
+0,1
+0,0
+3,2
+2,0
+3,3
+2,1
+3,3
+1,0
+1,1
+3,2
+0,2
+1,0
+1,1
+1,1
+0,3
+2,1
+2,3
+2,1
+1,2
+0,0
+3,3
+2,2
+3,0
+2,3
+0,1
+0,2
+0,1
+0,1
+2,0
+2,2
+3,3
+3,1
+3,1
+2,1
+0,0
+3,3
+1,1
+0,3
+0,0
+2,1
+2,2
+0,1
+0,0
+1,3
+2,2
+1,1
+2,2
+1,3
+1,1
+1,0
+1,2
+0,2
+2,2
+3,3
+0,2
+0,0
+3,3
+3,3
+3,3
+0,0
+3,2
+1,0
+0,3
+2,2
+2,2
+3,3
+2,2
+2,2
+3,3
+0,3
+0,1
+2,2
+1,2
+0,0
+3,2
+2,2
+0,2
+0,2
+3,3
+3,1
+1,1
+3,1
+2,0
+0,0
+0,3
+2,2
+3,1
+2,2
+3,1
+2,2
+2,2
+3,1
+2,0
+0,0
+2,2
+3,1
+3,3
+3,3
+1,2
+0,0
+1,3
+3,1
+0,0
+3,3
+3,3
+2,2
+2,2
+2,1
+2,2
+1,1
+3,3
+3,3
+3,2
+1,1
+2,2
+2,2
+3,1
+0,0
+1,2
+2,1
+0,0
+1,2
+1,1
+0,3
+2,0
+3,0
+2,2
+0,2
+3,1
+3,0
+1,1
+2,2
+0,2
+2,2
+2,1
+3,3
+1,1
+1,1
+2,3
+2,0
+2,0
+3,3
+2,2
+2,1
+1,3
+0,0
+1,0
+0,0
+3,3
+3,3
+3,3
+3,3
+0,3
+0,2
+0,0
+0,1
+3,3
+0,3
+1,3
+2,2
+2,2
+1,3
+2,3
+2,3
+0,3
+0,0
+2,1
+2,0
+3,3
+3,3
+2,3
+3,2
+0,1
+1,1
+0,0
+1,3
+3,3
+3,3
+2,2
+3,1
+1,1
+1,1
+2,2
+1,1
+0,3
+1,3
+1,1
+0,2
+2,2
+1,2
+0,0
+2,2
+1,2
+0,3
+0,0
+1,1
+2,1
+1,2
+2,3
+2,2
+2,2
+1,2
+1,1
+3,3
+2,2
+1,1
+3,3
+0,0
+1,1
+1,1
+3,3
+2,0
+3,3
+0,0
+2,2
+0,0
+3,3
+2,2
+0,1
+1,1
+0,0
+3,1
+3,3
+0,1
+3,1
+3,3
+0,0
+2,1
+0,2
+2,3
+0,0
+3,2
+3,3
+3,3
+3,3
+3,1
+0,3
+2,2
+2,1
+0,0
+0,3
+2,3
+1,1
+3,2
+3,3
+0,0
+0,2
+0,1
+2,2
+2,1
+0,0
+3,1
+1,1
+0,2
+1,1
+1,3
+1,3
+3,2
+3,0
+0,0
+1,1
+0,3
+0,3
+1,1
+2,2
+2,2
+1,1
+2,2
+3,1
+3,3
+2,1
+0,3
+3,1
+2,1
+1,1
+2,2
+0,3
+0,1
+3,3
+1,1
+2,1
+1,1
+0,0
+2,2
+2,2
+2,2
+2,1
+0,1
+2,2
+1,2
+0,1
+3,3
+1,1
+1,2
+2,2
+0,0
+3,3
+3,0
+2,2
+1,1
+2,0
+3,3
+3,3
+1,1
+3,3
+2,2
+1,0
+3,3
+3,2
+2,2
+3,3
+0,0
+3,3
+2,3
+1,1
+0,3
+1,3
+2,3
+3,3
+3,3
+2,1
+0,0
+3,3
+1,1
+3,1
+0,0
+3,2
+2,1
+1,3
+3,3
+3,0
+3,3
+0,0
+2,2
+3,1
+0,3
+3,3
+2,2
+3,2
+3,3
+0,1
+0,1
+2,2
+2,3
+2,2
+3,1
+0,3
+3,1
+2,2
+3,1
+0,1
+1,2
+2,2
+0,1
+3,3
+1,1
+0,3
+3,1
+1,1
+1,1
+1,0
+2,2
+3,1
+0,0
+2,3
+0,1
+0,0
+0,0
+0,2
+2,3
+3,3
+3,3
+3,3
+0,2
+0,1
+0,3
+2,0
+1,1
+1,1
+2,2
+3,2
+1,0
+0,2
+3,3
+2,2
+2,2
+0,3
+2,2
+2,0
+0,0
+0,0
+1,3
+3,3
+3,3
+0,0
+2,2
+3,2
+1,0
+3,3
+3,1
+2,3
+2,2
+1,1
+1,1
+1,1
+3,3
+1,3
+2,2
+1,1
+2,2
+3,2
+1,0
+3,2
+3,3
+3,2
+1,1
+3,2
+0,0
+3,3
+2,2
+3,3
+0,1
+1,1
+3,3
+3,2
+3,3
+3,0
+3,3
+3,3
+1,1
+3,3
+2,3
+0,0
+3,2
+3,2
+2,1
+3,3
+2,1
+3,3
+0,0
+0,1
+0,2
+2,2
+3,3
+3,3
+0,3
+0,3
+3,1
+3,3
+3,1
+0,0
+2,2
+1,1
+1,2
+0,2
+2,1
+1,1
+1,1
+3,3
+1,3
+2,2
+0,0
+1,3
+3,3
+1,0
+1,2
+2,2
+2,2
+1,1
+2,1
+2,1
+1,2
+0,0
+2,1
+1,3
+1,1
+1,1
+3,3
+1,1
+2,2
+1,1
+3,3
+0,2
+3,2
+2,2
+2,3
+1,0
+0,0
+3,1
+3,0
+1,3
+0,0
+0,0
+1,3
+0,0
+2,0
+0,2
+2,2
+2,2
+1,2
+1,1
+3,2
+3,0
+2,3
+3,3
+3,3
+2,2
+0,3
+3,3
+1,1
+3,1
+2,2
+3,2
+3,3
+0,2
+3,0
+1,1
+3,3
+1,1
+1,1
+3,1
+3,1
+1,1
+3,3
+1,1
+1,2
+2,2
+3,1
+2,2
+2,1
+1,1
+1,0
+2,2
+0,0
+2,3
+2,3
+3,1
+1,2
+1,1
+0,0
+2,2
+2,2
+0,1
+0,3
+1,2
+3,1
+1,1
+3,3
+3,3
+2,1
+0,1
+1,1
+2,1
+3,2
+2,3
+2,3
+1,1
+2,2
+3,2
+2,0
+0,3
+2,2
+1,1
+3,1
+2,2
+1,0
+1,3
+2,3
+3,3
+1,3
+3,1
+1,1
+0,2
+1,1
+0,0
+2,2
+2,2
+2,0
+1,1
+1,3
+0,1
+0,0
+2,2
+3,3
+3,3
+0,1
+2,3
+2,2
+2,2
+2,2
+1,1
+0,0
+0,2
+2,2
+1,1
+1,1
+3,3
+0,0
+1,1
+1,2
+3,3
+3,3
+2,2
+3,3
+0,2
+0,2
+0,1
+2,2
+2,3
+1,1
+3,0
+3,3
+0,3
+3,0
+2,3
+3,1
+2,2
+1,2
+0,3
+3,3
+3,0
+2,3
+2,2
+1,1
+3,3
+1,1
+2,0
+2,2
+3,3
+0,0
+3,3
+0,3
+0,2
+2,2
+1,1
+1,2
+3,1
+3,2
+3,0
+2,1
+1,2
+1,1
+3,3
+1,0
+1,2
+0,2
+2,2
+0,3
+1,1
+2,1
+3,1
+0,2
+2,1
+1,3
+2,2
+3,0
+2,2
+2,2
+3,3
+3,3
+1,1
+1,3
+1,1
+2,2
+2,2
+2,2
+2,0
+0,3
+1,0
+2,1
+2,2
+2,1
+3,3
+1,2
+1,1
+0,2
+2,0
+1,1
+1,1
+0,0
+3,0
+0,2
+3,3
+0,1
+1,3
+3,3
+3,2
+0,0
+1,2
+0,3
+0,0
+2,2
+3,2
+3,3
+2,3
+3,3
+3,1
+3,3
+2,0
+2,1
+1,1
+3,3
+3,3
+2,0
+3,3
+0,3
+3,1
+0,0
+1,2
+1,1
+3,3
+1,1
+2,2
+1,1
+2,2
+3,0
+1,1
+2,2
+1,3
+2,2
+2,3
+3,2
+3,2
+1,1
+3,3
+2,2
+2,2
+3,1
+3,1
+1,1
+3,2
+0,0
+0,0
+0,3
+2,2
+2,0
+3,3
+1,2
+0,2
+0,3
+2,2
+2,2
+2,2
+2,3
+0,1
+2,2
+3,2
+1,1
+1,2
+1,1
+3,3
+3,2
+0,1
+3,0
+0,3
+1,0
+0,0
+1,1
+0,2
+2,2
+3,3
+3,3
+2,2
+2,2
+3,2
+2,2
+3,3
+0,2
+3,3
+0,3
+3,3
+3,3
+3,3
+0,0
+0,0
+3,3
+2,2
+1,1
+2,2
+1,1
+3,1
+2,1
+0,0
+3,3
+1,1
+0,0
+2,2
+2,2
+0,3
+2,2
+3,2
+3,2
+0,1
+2,2
+1,1
+3,2
+3,3
+0,3
+3,3
+0,0
+0,3
+2,2
+2,1
+3,3
+1,1
+1,1
+2,2
+0,0
+0,0
+2,2
+1,1
+3,3
+2,2
+0,0
+2,2
+2,1
+0,0
+1,2
+2,3
+2,3
+2,2
+1,3
+0,3
+0,0
+0,0
+3,1
+3,2
+3,3
+1,2
+1,2
+0,0
+2,2
+3,3
+1,0
+3,0
+3,1
+1,1
+2,2
+3,3
+0,3
+1,2
+3,3
+0,0
+2,0
+3,3
+2,2
+1,1
+3,3
+3,3
+0,3
+0,0
+2,1
+3,3
+1,1
+3,1
+3,2
+2,2
+1,1
+3,3
+3,3
+2,1
+3,3
+3,2
+0,2
+2,1
+3,3
+3,2
+1,0
+3,2
+1,0
+1,3
+0,0
+1,1
+3,3
+2,1
+2,2
+1,1
+1,1
+1,0
+0,0
+2,2
+1,0
+0,2
+0,3
+0,0
+3,2
+0,2
+1,2
+2,1
+1,2
+2,2
+3,3
+0,2
+2,3
+1,1
+2,1
+2,1
+2,2
+3,3
+0,2
+2,2
+3,0
+1,1
+1,2
+1,1
+3,3
+2,3
+2,1
+3,2
+1,2
+2,2
+0,1
+1,1
+1,1
+2,2
+0,0
+0,1
+3,2
+2,2
+3,0
+0,1
+1,1
+1,2
+0,1
+1,1
+2,2
+0,1
+0,0
+2,3
+3,3
+3,2
+1,1
+3,3
+0,1
+2,2
+3,3
+2,2
+0,0
+2,0
+2,3
+0,2
+2,2
+1,1
+3,1
+0,2
+1,0
+3,3
+2,2
+3,3
+3,2
+2,1
+0,2
+1,3
+2,2
+3,1
+3,0
+2,1
+3,1
+2,0
+1,1
+2,0
+3,3
+3,3
+3,3
+1,2
+1,3
+1,1
+0,0
+3,2
+1,1
+1,2
+2,2
+0,0
+1,3
+3,0
+2,2
+3,3
+3,3
+1,1
+0,0
+0,1
+2,0
+1,2
+1,1
+3,3
+1,0
+0,0
+0,0
+0,2
+3,3
+2,2
+0,1
+3,3
+0,1
+1,1
+2,2
+3,2
+2,2
+1,1
+2,2
+1,1
+2,2
+2,2
+2,3
+2,1
+2,2
+0,0
+2,2
+0,1
+3,0
+0,2
+1,3
+1,1
+3,2
+3,2
+3,1
+2,2
+1,0
+3,3
+2,2
+2,2
+3,3
+3,2
+2,2
+3,3
+2,2
+3,1
+1,1
+3,3
+2,2
+0,0
+3,2
+3,2
+2,2
+0,0
+3,3
+3,3
+1,1
+3,3
+2,2
+2,2
+1,3
+3,3
+2,1
+1,1
+2,1
+2,1
+2,3
+0,1
+2,2
+2,1
+0,0
+1,1
+3,1
+3,3
+2,1
+2,1
+3,1
+1,3
+3,2
+3,3
+3,3
+2,1
+1,3
+2,1
+2,1
+0,3
+3,3
+0,2
+3,3
+1,0
+0,0
+3,3
+3,2
+1,1
+3,3
+2,2
+3,3
+3,3
+1,1
+2,3
+3,2
+0,3
+1,1
+3,1
+2,2
+0,1
+2,0
+2,0
+2,3
+0,0
+0,0
+2,2
+2,1
+3,1
+2,2
+3,1
+3,3
+0,0
+2,2
+2,1
+1,1
+1,2
+2,2
+0,3
+1,1
+1,2
+2,2
+0,1
+2,0
+3,1
+3,2
+0,2
+0,1
+0,1
+0,1
+3,1
+2,1
+2,3
+3,1
+3,3
+2,2
+2,2
+0,0
+1,1
+1,0
+1,2
+3,2
+2,3
+1,1
+2,2
+3,2
+3,2
+3,3
+3,3
+2,2
+3,0
+2,3
+1,2
+0,3
+1,1
+3,3
+2,1
+1,1
+1,1
+3,1
+1,1
+3,3
+1,0
+1,1
+1,1
+0,0
+0,0
+1,1
+1,1
+0,0
+3,3
+1,2
+3,3
+1,3
+2,3
+0,2
+2,3
+1,1
+1,1
+0,0
+3,3
+2,2
+1,1
+0,3
+0,0
+3,3
+3,3
+1,0
+2,1
+1,1
+2,2
+0,1
+3,2
+0,0
+2,3
+0,0
+1,2
+2,2
+3,2
+0,3
+0,0
+1,3
+2,2
+0,0
+0,0
+2,0
+3,2
+0,1
+2,2
+0,1
+1,0
+2,2
+1,1
+1,3
+2,2
+0,0
+0,0
+2,2
+0,0
+3,3
+2,1
+2,2
+2,2
+0,3
+0,3
+3,1
+2,2
+1,1
+3,3
+1,3
+0,2
+2,1
+3,0
+3,3
+0,0
+2,2
+1,2
+0,0
+1,1
+1,0
+0,0
+1,2
+0,0
+0,3
+0,0
+1,3
+1,1
+3,2
+3,3
+2,2
+3,2
+0,1
+0,1
+2,3
+1,0
+2,3
+3,2
+0,0
+3,3
+1,2
+2,2
+2,1
+1,1
+3,3
+2,2
+3,3
+3,3
+2,0
+0,1
+0,1
+3,3
+2,2
+0,1
+0,0
+3,1
+1,1
+0,0
+2,2
+0,0
+3,3
+1,1
+0,3
+1,1
+1,1
+3,3
+0,1
+3,1
+2,0
+0,0
+0,1
+0,1
+3,0
+3,2
+3,1
+0,1
+2,2
+1,1
+1,1
+1,1
+0,0
+3,1
+1,1
+3,3
+2,2
+1,0
+0,2
+2,0
+1,3
+1,1
+2,2
+2,2
+1,1
+0,0
+3,1
+1,1
+2,2
+2,0
+1,2
+2,3
+1,1
+3,3
+3,3
+0,2
+0,0
+2,1
+0,3
+3,1
+0,0
+3,2
+3,3
+2,1
+1,0
+3,3
+3,1
+1,1
+3,3
+0,2
+0,0
+0,0
+3,2
+3,3
+3,3
+1,3
+0,2
+2,3
+3,3
+1,1
+2,2
+0,2
+1,1
+0,1
+0,2
+2,1
+3,3
+1,2
+0,0
+2,0
+2,2
+3,3
+0,0
+3,3
+0,1
+1,0
+1,2
+1,0
+3,3
+1,1
+2,1
+0,0
+0,2
+3,3
+0,1
+0,1
+0,0
+3,3
+3,3
+3,2
+3,0
+2,2
+1,1
+3,3
+0,1
+3,2
+1,2
+1,0
+2,2
+1,2
+2,2
+2,0
+2,2
+1,3
+1,3
+2,3
+1,3
+3,2
+3,1
+0,2
+2,2
+0,0
+3,2
+3,3
+1,2
+2,1
+2,2
+1,1
+1,1
+1,0
+2,1
+3,1
+2,2
+1,2
+2,2
+1,1
+1,1
+0,0
+0,3
+1,3
+0,0
+2,2
+2,1
+2,2
+3,1
+3,2
+0,0
+3,3
+1,3
+3,3
+2,2
+3,2
+1,1
+1,1
+1,1
+3,1
+2,2
+2,2
+2,2
+0,1
+0,0
+0,0
+3,3
+3,3
+2,0
+1,1
+1,0
+1,1
+2,2
+2,2
+2,0
+1,3
+2,2
+2,1
+1,1
+1,1
+1,1
+3,3
+3,3
+3,3
+0,1
+0,0
+1,3
+0,0
+3,0
+1,2
+3,3
+3,1
+2,2
+2,3
+1,0
+2,2
+2,2
+2,2
+3,3
+2,1
+3,2
+0,1
+2,2
+1,1
+0,0
+2,3
+0,1
+3,2
+2,2
+3,3
+2,2
+1,2
+3,0
+1,0
+1,1
+3,3
+2,2
+3,3
+2,1
+1,1
+3,3
+3,3
+2,2
+1,1
+0,0
+2,1
+2,1
+0,3
+2,2
+2,1
+3,0
+3,2
+0,0
+3,3
+3,3
+1,1
+3,2
+3,3
+3,2
+1,1
+1,3
+3,3
+3,2
+3,2
+1,1
+1,2
+2,3
+1,1
+2,2
+1,0
+1,3
+3,3
+0,0
+1,1
+0,1
+1,1
+0,1
+3,3
+1,1
+1,1
+1,0
+1,1
+1,1
+1,1
+3,3
+0,2
+2,1
+3,2
+3,3
+0,0
+0,1
+0,0
+3,3
+2,2
+1,2
+1,2
+2,2
+2,2
+1,1
+3,3
+2,2
+0,0
+1,0
+0,3
+2,2
+0,0
+1,1
+3,3
+3,3
+1,1
+1,1
+3,2
+3,0
+2,2
+2,0
+3,3
+1,3
+3,3
+3,3
+1,1
+1,2
+2,2
+1,3
+3,2
+1,1
+2,3
+3,0
+3,1
+0,0
+3,0
+2,2
+0,0
+1,0
+2,3
+3,3
+2,1
+2,2
+1,1
+2,2
+0,0
+2,2
+1,1
+1,1
+2,2
+1,0
+2,0
+3,3
+1,2
+1,1
+2,2
+0,0
+1,1
+2,3
+3,1
+0,3
+2,2
+0,1
+0,2
+3,3
+0,0
+0,0
+3,0
+0,3
+2,2
+1,0
+3,2
+2,2
+0,0
+3,1
+0,0
+2,3
+0,0
+3,0
+2,2
+2,3
+2,3
+0,0
+3,3
+3,1
+1,1
+0,0
+2,1
+2,2
+0,1
+1,0
+1,1
+0,3
+1,1
+3,2
+3,3
+3,1
+1,1
+3,0
+3,3
+2,2
+1,1
+0,0
+3,2
+3,2
+1,1
+3,3
+2,3
+0,2
+3,3
+1,1
+3,3
+0,1
+3,2
+2,2
+1,2
+1,1
+0,3
+0,0
+3,1
+1,0
+2,2
+2,3
+0,1
+3,3
+2,3
+3,3
+3,3
+1,3
+0,2
+1,2
+0,1
+1,1
+0,3
+1,1
+1,1
+3,0
+1,1
+3,3
+3,2
+1,1
+0,2
+2,2
+0,1
+3,3
+3,3
+2,0
+0,3
+1,3
+1,2
+3,3
+3,1
+3,1
+3,3
+2,2
+1,1
+2,2
+0,3
+2,2
+0,0
+0,1
+3,3
+3,3
+3,3
+0,2
+3,3
+3,1
+3,1
+3,2
+3,3
+3,2
+3,3
+2,0
+1,1
+0,2
+3,3
+1,2
+3,3
+1,3
+0,0
+2,3
+0,1
+3,3
+1,1
+3,1
+1,1
+1,1
+3,3
+0,1
+1,1
+3,3
+2,1
+1,3
+0,1
+2,2
+2,0
+3,3
+2,2
+1,1
+3,3
+2,2
+1,0
+3,0
+3,3
+3,3
+3,2
+3,1
+1,2
+3,3
+3,1
+2,2
+3,2
+0,0
+2,2
+3,3
+1,1
+1,1
+3,0
+3,3
+2,3
+3,1
+3,2
+0,0
+1,1
+0,0
+0,0
+2,1
+3,2
+2,2
+2,2
+1,1
+2,2
+3,1
+0,0
+1,0
+3,0
+0,2
+1,2
+1,1
+3,2
+3,3
+2,2
+0,1
+3,3
+0,1
+0,2
+2,1
+0,0
+3,3
+0,3
+1,1
+2,2
+0,1
+1,1
+3,3
+0,0
+3,2
+3,3
+1,1
+0,2
+3,1
+0,0
+3,1
+1,1
+3,3
+3,3
+1,1
+1,0
+1,1
+0,2
+2,2
+2,2
+0,0
+0,3
+1,1
+3,3
+2,2
+0,2
+1,2
+0,1
+1,2
+2,0
+1,0
+1,3
+3,2
+1,1
+0,0
+3,3
+2,2
+2,3
+0,0
+2,1
+0,2
+1,1
+3,3
+3,3
+0,3
+0,2
+3,3
+0,1
+1,3
+1,1
+0,2
+1,1
+0,0
+2,2
+2,1
+3,2
+1,0
+0,0
+3,3
+1,0
+0,0
+2,3
+0,3
+3,3
+1,0
+3,3
+1,3
+2,2
+3,3
+0,0
+3,3
+3,3
+3,3
+3,3
+3,2
+2,2
+2,2
+0,0
+2,3
+2,2
+1,1
+1,2
+3,3
+2,2
+0,0
+2,3
+0,0
+3,1
+1,1
+1,3
+2,2
+1,3
+0,0
+3,3
+3,3
+2,1
+2,2
+0,0
+3,3
+2,2
+1,1
+0,1
+0,3
+2,3
+1,2
+2,2
+1,2
+0,0
+2,1
+2,1
+1,2
+1,1
+0,0
+2,1
+3,1
+3,3
+0,3
+1,1
+0,1
+0,0
+3,3
+0,0
+1,0
+2,3
+2,2
+3,3
+0,0
+3,2
+2,1
+0,0
+1,1
+0,0
+0,1
+3,3
+0,2
+0,0
+1,1
+2,1
+3,3
+3,3
+3,2
+1,1
+3,3
+1,2
+1,3
+3,1
+2,3
+1,0
+0,0
+0,2
+0,1
+2,2
+2,2
+1,1
+0,2
+0,2
+0,0
+1,2
+2,1
+0,0
+1,1
+2,2
+0,0
+2,2
+0,3
+2,3
+1,2
+1,2
+0,0
+3,2
+1,1
+0,0
+3,3
+2,2
+0,1
+1,0
+1,1
+2,2
+0,3
+3,1
+0,0
+2,0
+3,2
+0,1
+0,0
+2,2
+0,1
+2,0
+2,2
+1,2
+1,1
+0,2
+0,0
+1,3
+3,3
+2,2
+1,2
+3,0
+1,2
+2,1
+0,0
+3,2
+2,3
+0,3
+2,2
+3,1
+3,3
+2,1
+2,2
+0,0
+1,1
+1,1
+3,2
+3,2
+0,2
+3,3
+0,0
+1,1
+3,2
+1,3
+1,1
+1,2
+1,3
+3,3
+2,1
+1,1
+3,3
+1,0
+2,3
+3,0
+2,1
+3,3
+2,2
+3,3
+0,0
+2,2
+1,1
+1,2
+3,3
+2,1
+3,1
+0,0
+3,1
+2,1
+2,2
+3,2
+3,0
+3,3
+0,1
+1,1
+1,2
+3,2
+0,0
+1,1
+1,3
+2,2
+3,3
+2,1
+1,0
+2,3
+0,2
+2,2
+3,3
+2,2
+0,2
+0,3
+3,1
+1,1
+3,3
+2,1
+0,1
+2,2
+1,3
+3,3
+1,1
+2,3
+3,3
+3,3
+1,1
+1,2
+2,1
+3,3
+1,3
+1,1
+0,3
+2,2
+1,2
+0,2
+1,1
+2,3
+3,0
+1,1
+1,3
+0,0
+3,3
+3,3
+3,2
+0,1
+1,0
+2,0
+1,1
+1,2
+2,1
+3,3
+3,1
+2,1
+3,2
+2,2
+1,1
+3,2
+0,0
+1,2
+3,3
+0,2
+3,3
+3,3
+1,1
+3,3
+2,2
+0,0
+2,2
+2,2
+3,3
+2,1
+0,0
+3,3
+1,1
+3,1
+3,1
+3,3
+3,3
+2,3
+3,3
+3,0
+3,3
+3,3
+0,0
+1,2
+1,1
+2,2
+0,0
+3,3
+3,3
+1,1
+1,1
+0,3
+1,3
+2,1
+0,0
+3,3
+1,0
+2,2
+1,2
+3,1
+0,0
+3,3
+3,2
+0,2
+3,3
+1,1
+1,1
+0,0
+1,0
+0,0
+3,2
+3,0
+2,2
+0,0
+2,1
+0,1
+2,0
+1,1
+2,3
+2,2
+3,3
+2,2
+1,2
+3,2
+2,1
+3,3
+0,1
+2,2
+3,1
+1,1
+1,2
+3,3
+1,3
+0,0
+1,1
+3,3
+1,1
+3,3
+1,1
+2,0
+3,2
+0,0
+1,1
+3,2
+3,3
+3,1
+2,3
+1,3
+3,2
+3,3
+1,2
+2,2
+2,2
+2,2
+0,2
+2,0
+3,3
+0,2
+2,3
+3,0
+2,2
+2,3
+1,1
+1,1
+0,2
+1,0
+3,2
+2,1
+1,3
+1,1
+0,0
+1,1
+3,3
+3,3
+0,0
+2,2
+2,2
+3,3
+3,3
+1,2
+2,1
+2,2
+1,2
+1,1
+2,2
+0,1
+3,2
+1,1
+0,0
+1,2
+0,3
+0,1
+0,0
+3,0
+0,0
+3,3
+1,1
+3,2
+3,3
+0,2
+0,1
+2,2
+3,3
+2,2
+2,2
+0,0
+1,0
+1,0
+0,0
+2,3
+2,1
+2,3
+2,2
+3,1
+0,3
+3,3
+3,1
+3,3
+2,2
+1,1
+2,3
+1,1
+2,2
+0,1
+3,3
+3,1
+1,1
+1,1
+2,2
+1,1
+3,3
+3,1
+3,3
+3,1
+2,2
+3,3
+1,1
+2,3
+2,2
+1,2
+2,1
+1,2
+0,0
+1,1
+3,1
+2,2
+3,3
+1,1
+3,2
+2,2
+1,1
+2,3