Tirpitz è nato a Küstrin (ora Kostrzyn nad Odrą, Polonia) nella provincia di Brandeburgo, Prussia. Si unì alla Marina prussiana nel 1865 e partecipò alla guerra franco-prussiana del 1870-71. Dopo la guerra ricoprì vari incarichi e comandi nello staff e salì di grado.
Nel 1897 Tirpitz fu nominato Segretario di Stato della Marina Imperiale , succedendo all'ammiraglio Friedrich von Hollmann. Cominciò immediatamente ad attuare i suoi ambiziosi piani per espandere la Marina tedesca, ritenendo che una marina forte fosse essenziale per la sicurezza nazionale e la prosperità economica della Germania.
Sotto la guida di Tirpitz, la Marina tedesca crebbe rapidamente. Il numero di corazzate e incrociatori aumentò e furono introdotti nuovi tipi di navi da guerra, come sottomarini e cacciatorpediniere. Tirpitz ha anche supervisionato la costruzione di una rete di basi navali e cantieri navali.
Programma di espansione navale di Tirpitz mise a dura prova le risorse della Germania e causò tensioni con la Gran Bretagna, che si sentiva minacciata dalla crescita della Marina tedesca. Nel 1906, la Gran Bretagna lanciò la Dreadnought, un nuovo e rivoluzionario tipo di corazzata che rese obsolete tutte le corazzate esistenti. Tirpitz rispose ordinando la costruzione di una nuova classe di corazzate, la classe Nassau, che erano armate con cannoni più potenti e armature più spesse rispetto alle Dreadnought.
La corsa agli armamenti navali anglo-tedesca continuò fino allo scoppio della prima guerra mondiale nel 1914. La Marina tedesca, sotto il comando di Tirpitz, giocò un ruolo significativo nella guerra, ma alla fine fu sconfitta dalla Royal Navy.
Dopo la guerra, Tirpitz si ritirò dalla marina ed è entrato in politica. Fu membro del Reichstag dal 1924 al 1928 e fu un critico vocale della Repubblica di Weimar. Tirpitz morì a Ebenhausen, in Baviera, nel 1930.
Tirpitz rimane una figura controversa. È ammirato da alcuni per la sua lungimiranza e determinazione nel rafforzare la marina tedesca, ma è anche criticato per il suo ruolo nella corsa agli armamenti navali anglo-tedesca e per lo scoppio della prima guerra mondiale.