Ia lahir di keluarga yang sederhana, bahkan jauh dari kalangan militer. Orang tua Soedirman dulunya merupakan pedagang dan kemudian bekerja untuk asisten wadana Rembang yakni Raden Tjokrosunaryo.
Raden Tjokrosunaryo yang kala itu tak memiliki anak akhirnya mengadopsi Soedirman dan memberikan nama tersebut padanya. Karena itulah sebagian ada yang menyebut Soedirman memiliki gelar Raden.
Kehidupan Soedirman setelah diangkat oleh Raden Tjokrosunaryo bisa dibilang cukup berada. Ia sempat mengenyam pendidikan dasar dari ayah angkatnya dan kerap mengaji di surau. Selain itu, Soedirman juga mendapat kesempatan sekolah formal di HIS (Hollandsch Inlandsche School) di Cilacap.
Pada masa kolonial Belanda, Soedirman masih belum dikenal sebagai pejuang. Ia fokus dalam belajar dan berorganisasi. Baru pada saat Jepang mulai menginvasi Tanah Air, Soedirman dipercaya untuk menjadi bagian dari pasukan Pembela Tanah Air (PETA).
Ia pun sempat menjalani pelatihan di Bogor sebagai Angkatan II. Dengan potensinya, Soedirman akhirnya diangkat sebagai komandan dan bertugas di Batalyon Kroya, Jawa Tengah, dengan persenjataan lengkap.
Karirnya terus menanjak hingga ia menjadi ketua Badan Keamanan Rakyat (BKR) dan Letnan Kolonel Komandan Resimen I Divisi I Tentara Keamanan Rakyat (TKR) Karesidenan Banyumas.