Pendidikan militer diawalinya dengan mengikuti pendidikan tentara Pembela Tanah Air (Peta) di Bogor. Setelah selesai pendidikan, ia diangkat menjadi Komandan Batalyon di Kroya.
Ketika itu, ia sering memprotes tindakan tentara Jepang yang berbuat sewenang-wenang dan bertindak kasar terhadap anak buahnya. Karena sikap tegasnya itu, suatu kali dirinya hampir saja dibunuh oleh tentara Jepang.
Setelah Indonesia merdeka, dalam suatu pertempuran dengan pasukan Jepang, ia berhasil merebut senjata pasukan Jepang di Banyumas. Itulah jasa pertamanya sebagai tentara pasca kemerdekaan Indonesia.
Sesudah Tentara Keamanan Rakyat (TKR) terbentuk, ia kemudian diangkat menjadi Panglima Divisi V/Banyumas dengan pangkat Kolonel. Dan melalui Konferensi TKR tanggal 2 Nopember 1945, ia terpilih menjadi Panglima Besar TKR/Panglima Angkatan Perang Republik Indonesia.
Selanjutnya pada tanggal 18 Desember 1945, pangkat Jenderal diberikan padanya lewat pelantikan Presiden.
Ketika pasukan sekutu datang ke Indonesia dengan alasan untuk melucuti tentara Jepang, ternyata tentara Belanda ikut dibonceng. Karenanya, TKR akhirnya terlibat pertempuran dengan tentara sekutu.
Pada Desember 1945, pasukan TKR yang dipimpin oleh Sudirman terlibat pertempuran melawan tentara Inggris di Ambarawa. Dan pada tanggal 12 Desember tahun yang sama, dilancarkanlah serangan serentak terhadap semua kedudukan Inggris. Pertempuran yang berkobar selama lima hari itu akhirnya memaksa pasukan Inggris mengundurkan diri ke Semarang.
(Erha Aprili Ramadhoni)