Pria yang lahir pada 26 November 1965 ini merupakan alumnus Akademi Angkatan Laut (AAL) angkatan ke-XXXIII/Tahun 1988. Ia juga pernah menjabat sebagai Panglima Komando Gabungan Wilayah Pertahanan I.
Yudo Margono adalah sosok yang lahir dan besar di Desa Garon, Kecamatan Balerejo, Kabupaten Madiun, Jawa Timur.
Ia lahir dari keluarga yang sederhana dan orangtuanya berprofesi sebagai petani. Ia mengawali pendidikannya di SDN 02 Garon dan menamatkan SMA-nya di SMA Negeri 1 Mejayan.
Sejumlah pendidikan militer pernah ia tempuh di antaranya, AAL (1988 A), Kursus Korbantem (1989), Kursus Perencanaan Operasi Amphibi (1990), Kursus Pariksa (1992), Dikspespa/Kom Angkatan 6 (1992/1993), Diklapa ll/Koum Angkatan 11 (1997/1998), Seskoal A-40 (2003), Sesko TNI A-38 (2011) dan terakhir di Lemhannas Rl PPRA A-52 (2014).
Sebelum menjadi KSAL, Yudo memulai karier militernya sebagai, Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988) kemudian ia dipromosikan menjadi Kadep Ops KRI Ki Hajar Dewantara 364, Palaksa KRI Fatahillah 361, Komandan KRI Pandrong 801, Komandan KRI Sutanto 877, hingga Komandan KRI Ahmad Yani 351.