De stad werd gesticht door de Romeinen, die het Lentia noemden.

Linz was binnen het Heilige Roomse Rijk een lokale regeringsstad en een belangrijke handelspost. Onder de Habsburgse keizer Frederik III was het korte tijd de belangrijkste stad van het imperium. Het verloor zijn status nochtans na diens dood in 1493.

De wiskundige Johannes Kepler werkte tussen 1612 en 1626 in Linz. Hij ontdekte er begin 1618 zijn derde wet van planeetbewegingen.

De stad Linz lijkt een sleutelpositie in te nemen voor en na de Tweede Wereldoorlog. Dicht bij Linz, in de stad Leonding, werden de ouders van Adolf Hitler begraven. Hitler zelf bezocht het Fadingergymnasium in Linz. In Mein Kampf schreef hij over een Joodse jongen die hij op school had leren kennen. Volgens sommige theorieën was dit de filosoof Ludwig Wittgenstein. Hitler vertrok alvorens zijn school af te maken, en ging in plaats daarvan naar een school in Steyr (Opper-Oostenrijk). Op het balkon van het stadhuis van Linz proclameerde Hitler het Grootduitse Rijk, in de periode van de zogenaamde Anschluss van Oostenrijk bij Duitsland. Niet alleen Hitler, maar ook Adolf Eichmann, de architect van de jodenvervolging, groeide op in Linz. Eichmanns vader woonde er nog na de oorlog. Simon Wiesenthal, die later Eichmann zou opsporen, had er na de oorlog zijn eerste kantoor. Zo ontstond de bijzondere situatie dat Wiesenthal uitkeek op het huis waar Hitler opgroeide en dat hij slechts enkele huizen bij het ouderlijk huis van Eichmann vandaan kantoor hield.

Tijdens de Tweede Wereldoorlog werd Linz belangrijk voor de productie van chemische producten en staal voor de nazioorlogsmachine. Veel van deze fabrieken waren ontmanteld in het kort tevoren verworven Tsjecho-Slowakije en werden hier opnieuw samengebracht. Het kamp Mauthausen-Gusen, het laatste naziconcentratiekamp waar ook Wiesenthal gevangen zat, stond dicht bij Linz. Hitler had uitgebreide architectonische plannen met Linz maar alleen de Nibelungenbrug over de Donau is hiervan gerealiseerd.

Linz is tegenwoordig nog steeds een industriestad. Voestalpine, vroeger een grote staalfabriek (die als Hermann Göring Werke tijdens de Tweede Wereldoorlog werd opgericht en beroemd werd vanwege de procedure van LD (Linz-Donawitz) voor de productie van staal) en Chemie Linz maakten Linz een van belangrijkste economische centra van Oostenrijk. De stad heeft ook belangrijke tabaksindustrie.

Het is de hoofdstad van de deelstaat Opper-Oostenrijk en met 188.968 inwoners (2006) de derde stad van het land. Het is een belangrijke industriestad. Het is ook de stad van de wiskundige Johannes Kepler en de componist Anton Bruckner, die er allebei werkten. De universiteit van Linz is naar Kepler genoemd en het conservatorium naar Bruckner. In 2009 was Linz een van de beide culturele hoofdsteden van Europa, naast Vilnius.