fix lr to 13-5 (#952)

Author: lxaw

train.sh

@@ -55,7 +55,7 @@ deepspeed ${deepspeed_args} \
     --dataset_path ${dataset_path} \
     --output_dir ${output_dir} --overwrite_output_dir \
     --num_train_epochs 1 \
-    --learning_rate 1e-4 \
+    --learning_rate 1e-5 \
     --block_size 1024 \
     --per_device_train_batch_size 24 \
     --use_dora 1 \