Petr Gandalovič vystudoval Matematicko-fyzikální fakultu Univerzity Karlovy v Praze a svou profesní dráhu zahájil jako učitel. 

Po sametové revoluci v roce 1989 byl zvolen poslancem Federálního shromáždění České a Slovenské Federativní Republiky.

Po více než dvou letech přešel na Ministerstvo životního prostředí na pozici náměstka ministra a později na Ministerstvo zahraničních věcí na pozici ředitele sekce. 
Ve své diplomatické kariéře pokračoval jako generální konzul České republiky v New Yorku, kde působil do roku 2002. 

Po návratu do Česka byl zvolen primátorem města Ústí nad Labem a v roce 2006 poslancem Poslanecké sněmovny Parlamentu České republiky. Ve stejném roce byl nominován na post ministra pro místní rozvoj a později na tři roky na post ministra zemědělství.

V letech 2011 až 2016 působil jako velvyslanec České republiky ve Spojených státech amerických a poté při OECD v Paříži. V roce 2022 se vrátil na Ministerstvo zahraničních věcí a do roku 2025 působil jako ředitel Odboru pro rozvojovou spolupráci a humanitární pomoc.