Dari situlah kewibawaan dan kharismanya terbentuk, terutama ketika Soedirman muda sudah terlibat aktif di Hizbul Wathan. Kepanduan Muhammadiyah ini sendiri sudah berdiri sejak 1918 yang awalnya bernama Padvinder Muhammadiyah.
Sebagai kader Hizbul Wathan Muhammadiyah ini, Soedirman muda ditempa militansinya dan sudah mulai tertanam nilai-nilai cinta tanah air. Situasi mulai berubah sesudah Belanda menyerah pada Jepang di Kalijati pada 1942.
Ketika Jepang membuka PETA, Soedirman muda mulai “berkenalan” dengan kemiliteran. Karena latar belakangnya sebagai kepala sekolah, Soedirman bisa masuk sekolah perwira PETA di Bogor.
Militansi dan kedisiplinannya kian ditempa selama tiga bulan untuk kemudian menjadi Chudancho (Komandan Kompi, setara Kapten). Pendidikannya diteruskan hingga mencapai tingkatan Daidancho (Komandan Batalyon, setara Mayor/Letnan Kolonel).
Selepas gemblengan keras di sekolah perwira PETA di Bogor, lahirlah “Soedirman baru” yang sudah mengerti betul sejumlah metode-metode perang ala Jepang dan menjadi komandan Daidan (Batalyon) di Kroya, Cilacap.
Namun PETA dibubarkan seiring menyerahnya Jepang pada sekutu. Pasca-Proklamasi 17 Agustus 1945, Soedirman meleburkan dirinya ke Badan Keamanan Rakyat (BKR, cikal bakal TKR/TNI) di Banyumas dengan pangkat Kolonel.