Figlio dell'imperatore Ferdinando II e di Maria Anna di Baviera, nacque a Wiener Neustadt il 15 gennaio 1614.
Durante la Guerra dei Trent'Anni combattè in Boemia e in Svezia oltre che sul fronte franco-spagnolo a Lens e in Catalogna.
Contemporaneamente svolgeva la carriera ecclesiastica divenendo vescovo e amministratore apostolico di diverse diocesi fra cui Strasburgo, Breslavia e Brema.
Nel 1647 fu nominato governatore dei Paesi Bassi Spagnoli, carica che ricoprì fino al 1656. Durante questi anni l'arciduca raccolse a Bruxelles una grande collezione di opere d'arte di pittori fiamminghi e italiani che fu trasferita a Vienna al termine del suo mandato.
Leopoldo Guglielmo morì a Vienna il 20 novembre 1662 e la sua collezione passò al nipote Leopoldo I d'Asburgo.