Kariernya di TNI Angkatan Laut terbilang cukup cemerlang. Yudo Margono pernah menjadi Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988) sebelum akhirnya menempati posisi Kadep Ops KRI Ki Hadjar Dewantara 364. Selain itu, Yudo juga pernah menempati jabatan strategis.
Di antara posisi penting yang pernah ia tempati adalah Kepala Staf Koarmabar pada 2016-2017, Panglima Komando Lintas Laut Militer pada 2017-2018, Panglima Komando Armada I tahun 2018-2019, hingga menjabat Panglima Komando Gabungan Wilayah Pertahanan I pada 2019-2020, sebelum menjadi KSAL. Ia kini merupakan sosok yang akan menggantikan Jenderal TNI Andika Perkasa sebagai Panglima TNI.
(Angkasa Yudhistira)