Krupp werd in 1811 in Essen opgericht door Friedrich Krupp. Het begin was niet gemakkelijk. Door technische problemen raakte hij vrijwel zijn gehele vermogen kwijt. In 1826 overleed Friedrich. Zijn zoon Alfred nam vervolgens op jonge leeftijd de zaak over.

De industriële revolutie bracht Krupp de jaren daarop groot succes. Vooral vanuit de spoorwegen ging de vraag naar staal sterk omhoog. Krupp ontwierp bijvoorbeeld lasvrije spoorwielen die wereldwijd een groot succes werden. In 1875 koos Krupp daarom als zijn bedrijfslogo drie overlappende spoorwielen.

Intussen was Krupp ook een belangrijke wapenfabrikant geworden voor het Duitse keizerrijk. Het bedrijf vond de achterlader uit, waarbij een kanon aan de achterkant wordt geladen in plaats van aan de voorkant. Deze nieuwe ontwikkeling werd internationaal een groot militair succes.

In die tijd steeg het aantal werknemers van Krupp sterk. Het bedrijf zorgde voor huisvesting, gezondheidszorg, pensioenen en eigen winkels met lage prijzen. De sociale omgang van Krupp met zijn werknemers kreeg grote vermaardheid.

In de Eerste Wereldoorlog was Krupp veruit de grootste wapenfabrikant in Duitsland. Het bedrijf bouwde bijvoorbeeld enorme spoorwegkanonnen, duikboten en machinegeweren. In de jaren daarna legde Krupp zich weer toe op de productie van alledaagse producten.

In het Derde Rijk nam Krupp de wapenproductie weer op en was het bedrijf van groot belang voor de nazi’s. Adolf Hitler zei zelfs dat de Duitse jeugd „zo hard als Kruppstaal” moest zijn. Hitler was ook vaak te gast bij de familie Krupp op hun landhuis Villa Hügel. In de oorlogsjaren had het concern grote aantallen slavenarbeiders in dienst. Geallieerde bombardementen brachten de fabrieken van Krupp grote schade toe.

Na de oorlog werd de wapenproductie stopgezet en ging het bedrijf verder met staal. Het eigendom van Krupp ging in de jaren ’60 over in een stichting omdat de laatste erfgenaam het familiebedrijf niet wilde leiden.

Krupp breidde vervolgens zijn staalproductie steeds verder uit via overnames. Het bedrijf voerde ook lange tijd fusiegesprekken met branchegenoot Thyssen. In 1999 gingen Krupp en Thyssen officieel samen verder onder de naam ThyssenKrupp. Zo staat het bedrijf tegenwoordig nog bekend.