Karir militernya dimulai sejak 1988 hingga saat ini. Jabatan pertama dalam karir militer Angkatan Laut yaitu menjadi Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988).
Yudo juga pernah menjadi Kadep Ops KRI Ki Hajar Dewantara, lalu menjadi komandan beberapa KRI seperti Pandrong 801, Sutanto 877, dan Ahmad Yani 351.
Suami dari AKBP Veronica Yulis Prihayati ini juga pernah menjadi Komandan diantaranya Lanal Tual (2004-2008), Sorong (2008-2010), Satkat Koarmatim (2010—2011), Satkor Koarmatim (2011—2012), dan Kolat Koarmabar (2012-2014).
Baca Juga: Biodata Kim Hye Soo Pemeran Ratu Im Hwa Ryeong dalam Under The Queen Umbrella, Ini Profil Lengkapnya
Yudo juga pernah menjadi Paban II Opslat Sopsal (2014—2015), Komandan Lantamal I Belawan (2015—2016), dan Kepala Staf Koarmabar (2016—2017).
Jabatan terakhir sebelum menjadi KSAL adalah terpilih sebagai Pangkogabwilhan I (2019—2020). Sebelumnya, Yudo juga beberapa kali menjadi Panglima sejak 2017 hingga 2019.
Diantaranya menjadi Pangkolinlamil (2017—2018), Pangkoarmabar (2018), dan Pangkoarmada I (2018—2019).
KSAL Laksamana TNI Yudo Margono telah memiliki tiga anak yaitu Novendi Wira Yoga, Ditya Wira Adibrata, dan Noval Wira Abiyuda.
Baca Juga: Profil dan Biodata Alfredo Talavera, Kiper Meksiko Pemain Tertua Piala Dunia 2022 Qatar