Figlio dell'arciduca Francesco Carlo e di Sofia di Baviera, nacque a Vienna l'8 agosto 1830.
Nel 1848 lo zio Ferdinando I d'Austria abdicò a seguito dei moti rivoluzionari e il fratello Francesco Carlo rinunciò ai suoi diritti al trono in favore del figlio Francesco Giuseppe che venne nominato imperatore d'Austria il 2 dicembre dello stesso anno all'età di diciotto anni.
Poco prima era stato nominato presidente del consiglio dei ministri il principe Felix Schwarzenberg che consigliò al giovane Francesco Giuseppe una politica di cautela e lo convinse ad emanare nel 1849 una costituzione che in realtà non fu mai applicata e che venne abrogata nel 1852.
In soli due anni il nuovo imperatore e il primo ministro riuscirono a restaurare l'autorità degli Asburgo in Ungheria, in Boemia, in Germania e in Italia. Tuttavia, privato dell'aiuto di Schwarzenberg che morì nel 1852, Francesco Giuseppe non riuscì a proseguire sulla stessa strada e commise gravi errori come il mancato intervento nella guerra di Crimea che lo pose in contrasto con la Russia e gli alienò l'appoggio delle potenze europee che lo lasciarono da solo a fronteggiare Piemonte e Francia nel 1859.
A causa della sconfitta l'Austria perse la Lombardia con l'armistizio di Villafranca.
Negli anni successivi si combattè la guerra franco-prussiana a seguito della quale l'impero austriaco, di nuovo sconfitto, fu definitivamente estromesso dalla Germania.
Nel 1867 Massimiliano d'Asburgo, fratello di Francesco Giuseppe che dal 1863 era imperatore del Messico, venne fucilato dai rivoluzionari messicani.
Nello stesso anno Francesco Giuseppe sottoscriveva la riforma detta compromesso austroungarico che poneva l'Ungheria in condizione di parità con l'Austria trasformando l'impero austriaco in impero austro-ungarico. Lo scopo di questo provvedimento era evitare che la tensione politica dell'Ungheria mettesse definitivamente in crisi l'impero già duramente provato dalle recenti sconfitte.
Nel 1873, soprattutto per effetto della politica del cancelliere tedesco Otto von Bismarck si concluse l'accordo detto Lega dei Tre Imperatori (Francesco Giuseppe, Guglielmo I di Germania, Alessandro II di Russia) che impegnata i rispettivi paesi a cercare soluzioni pacifiche in caso di crisi.
Nel 1879 l'Austria aderì alla Duplice Alleanza con la Germania e nel 1882 alla Triplice Alleanza con Germania e Italia.
Nell'ultima parte della sua vita Francesco Giuseppe si sforzò di tenere sotto controllo la difficile situazione interna densa di lotte politiche e moti di ribellione e le complesse relazioni internazionali.
Quando nel 1914 il nipote Francesco Ferdinando venne ucciso da un anarchico a Sarajevo, Francesco Giuuseppe fu costretto dalla pressione dei militari a firmare la dichiarazione di guerra alla Servia, evento che costituì l'inizio della Prima Guerra Mondiale.
Francesco Giuseppe morì di polmonite il 21 novembre 1916 nel Castello di Schönbrunn. Fu suo successore il pronipote Carlo I d'Austria il quale venne destituito ed esiliato nel 1918 al termine del conflitto mondiale.