Setelah Kemerdekaan Yani bergabung dengan tentara republik yang masih muda dan berjuang melawan Belanda. Selama bulan-bulan pertama setelah Deklarasi Kemerdekaan, Yani membentuk batalion dengan dirinya sebagai Komandan dan memimpin kepada kemenangan melawan Inggris di Magelang.
Yani kemudian diikuti ini dengan berhasil mempertahankan Magelang melawan Belanda ketika ia mencoba untuk mengambil alih kota, mendapat julukan "Juruselamat Magelang". Sorot lain yang menonjol karier Yani selama periode ini adalah serangkaian serangan gerilya yang diluncurkan pada awal 1949 untuk mengalihkan perhatian Belanda sementara Letnan Kolonel Soeharto dipersiapkan untuk Serangan Umum 1 Maret yang diarahkan pada Yogyakarta.
2. Berhasil Taklukan Pemberontak
Pada tahun 1952, ia dipanggil kembali beraksi untuk melawan Darul Islam, sebuah kelompok pemberontak yang berusaha untuk mendirikan sebuah teokrasi di Indonesia. Untuk menghadapi kelompok pemberontak ini, Yani membentuk sebuah kelompok pasukan khusus yang disebut The Banteng Raiders.
Pada bulan Agustus tahun 1958, ia memerintahkan Operasi 17 Agustus terhadap Pemerintah Revolusioner Republik Indonesia pemberontak di Sumatera Barat. Pasukannya berhasil merebut kembali Padang dan Bukittinggi, dan keberhasilan ini menyebabkan ia dipromosikan menjadi wakil kepala Angkatan Darat ke-2 staf pada 1 September 1962, dan kemudian Kepala Angkatan Darat stafnya pada 13 November 1963 (otomatis menjadi anggota kabinet), menggantikan Jenderal Nasution.
3. Riwayat Pendidikan Sang Jenderal