Jimi dáva dohromady novú skupinu s tým istým názvom pre turné po Škandinávii, na ktoré už bola podpísaná zmluva. Ponuku dostáva Terry Reid zo skupiny Procol Harum, ten však odmietol. Manažér Peter Grant ponúkol spoluprácu Robertovi Plantovi, ten ponuku prijal a odporučil Bonhama za bicie. Štvrtým do partie bol rodák z Londýna, štúdiový basgitarista John Paul Jones. V septembri '68 mali prvú skúšku a kapela dostala názov The New Yardbirds. Turné po Škandinávii dopadlo dobre. V októbri '68 sa narodil aj názov skupiny Led Zeppelin. Jeho autorom bol Keith Moon, bubeník skupiny Who. Ten pri opise koncertných vystúpení vždy hovoril: Going Down Like A Lead Zeppelin, čiže čosi ako padali sme ako olovený zepelín. Jimi Pageovi sa táto fráza páčila, zo slovíčka Lead vynechal "A" a ostal iba Led Zeppelin. Prvé živé vystúpenie pod týmto názvom mali 15. októbra 1968 na Surrey University.
Debutový album, ktorý dostal názov Led Zeppelin I., bol vlastne výpoveďou prvých spoločne strávených týždňov. Piesne si odskúšali už na škandinávskom turné. Nahrávali ho v londýnskom štúdiu Olympic v októbri 1968. Nahrali ho za tridsať hodín, čo bol malý rekord. Vysvetlenie je jednoduché, skupina nemala zmluvu so žiadnou spoločnosťou a štúdio si platila sama. Deväť piesní prvého albumu nahrali počas deviatich dní, prenájom štúdia stál 1782 libier, zisk z predaja bol viac ako 3 a pol milióna libier. V tomto smere boli lepší iba Beatles, keď prvý album Please Please Me nahrali v marci 1963 za 12 hodín. Album Led Zeppelin I. vychádza najprv v Spojených štátoch 17. januára 1969 dialo sa tak na podporu prvého amerického turné. V Británii bol vydaný o dva mesiace neskôr 28. marca.
Manažér Peter Grant rozhodol, že v Británii single vydávať nebudú a tým sa vlastne Led Zeppelin nevysielali často v rozhlase. Aj pozvánky na televízne vystúpenia prichádzali málo. V apríli '69 začínajú Led Zeppelin už druhé americké turné. Druhý album nenechal na seba dlho čakať. Vychádza 31. októbra 1969 pod názvom Led Zeppelin II a už pred jeho vydaním boli iba v Spojených štátoch objednávky na viac ako pol milióna kusov. Skutočný predaj potom prevýšil sumu 3 milióny výliskov. Album Led Zeppelin II viedol rebríčky LP platní v Británii aj v USA. Pritom v anglickom rebríčku sa udržal až 138 týždňov, v americkom 98 týždňov. Piesne nahrávali až v štyroch štúdiách Olympic a Morgan štúdiu v Londýne, A & R štúdiu v New Yorku a Mirror Sound v Los Angeles.
Encyklopédie radili Led Zeppelin k hardrockovým skupinám, boli však radení čiastočne aj heavy metalu a pomp rocku. Od vydania prvého albumu v januári '69 toho stihli do konca roku '69 dosť domáce vystúpenia, turné po Európe, 4 turné v USA a dva albumy. A nie každá skupina v prvom roku hrania koncertovala v New Yorskej Carnegie Hall či v londýnskej Royal Albert Hall. Led Zeppelin to dokázali.
Rok 1970 začínajú opäť koncertným turné. Pre dlhé vlasy ich nepustili do Singapuru a koncert zrušili. V Kodani hrajú pod názvom Nobs. Eva von Zeppelin, príbuzná konštruktéra vzducholodí Ferdinanda von Zeppelin protestovala proti používaniu priezviska rodiny počas ich európskeho turné. V auguste cestujú do Ameriky na ďalšiu šnúru. Zárobok bol výborný počas vystúpení v New Yorku inkasovali za jeden koncert v Madison Square Garden 100 tisíc dolárov. V ankete britského hudobného týždenníka Melody Maker sú Led Zeppelin zvolení za najlepšiu skupinu. 23. októbra 1970 vychádza tretí album, ktorý mal opäť jednoduchý názov Led Zeppelin III. Album Led Zeppelin III dostal od kritiky 5 hviezdičiek, fanúšikovia odpovedali podobne, predaj platní prevýšil sumu milión výliskov. Obal platne navrhol docent výtvarných umení Richard Drew z Leedsu. Je na ňom celkom 10 skladieb, producentom tak ako aj pri druhej platni bol Jimmy Page.
Počas marca 1971 absolvovali Led Zeppelin takzvané "ďakovné" turné po britských kluboch, kde koncertovali v začiatku skupiny. Dokonca súhlasili aj s pôvodným honorárom z roku 1968 za podmienky že promotér dá pôvodné vstupné. Potom sú znova na cestách Európa, siedme turné po Spojených štátoch, dokonca Havajské ostrovy a Japonsko. 12. novembra 1971 vychádza štvrtý album bez rímskej štvorky napísanej v názve. Na obale platne je iba nápis Led Zeppelin. V rebríčkoch potom pridali redakcie označenie Four Symbols podľa štyroch znakov runového písma na vnútornom obale. Skupina sa rozhodla, že vydanie tohto albumu nebude avizovať žiadna prehnaná reklamná kampaň. Album sa dostal na 1. miesto v rebríčku albumov a bodoval v ňom 62 týždňov. Stairway To Heaven sa stala novou hymnou skupiny Led Zeppelin. Neskôr bola považovaná za medzník v dejinách rockovej hudby.
Rok 1972 bol pre skupinu Led Zeppelin opäť cestovným rokom. Austrálske turné, ôsme americké a druhé japonské turné. V novembri vrcholia prípravy na ďalší album. 30. novembra štartujú britské turné. Za jediný deň sa predalo 100 tisíc vstupeniek na tieto koncerty. 26. marca 1973 vychádza v poradí piaty album s názvom Houses Of The Holy. V čase jeho vydania boli Led Zeppelin najpopulárnejšou skupinou v Spojených štátoch a zrejme aj na celom svete. V januári 1974 založili Led Zeppelin vlastnú značku Swan Song. Prvým albumom na vlastnej etikete bol v poradí šiesty - a hneď dvojalbum s názvom Physical Graffiti, ktorý vychádza 24. februára 1975. Bol prvý v rebríčku albumov doma aj v Spojených štátoch.
20. októbra 1976 sa v New Yorku konala premiéra filmu The Song Remains The Same skupiny Led Zeppelin. Soundtrack z tohto filmu, vydaný na dvojalbume, viedol rebríčky albumov doma aj v Spojených štátoch. V roku 1977 znova rozbehli koncertnú činnosť a v apríli štartujú na svoje jedenáste americké turné. Po vážnej chorobe zomiera syn Roberta Planta a zvyšok turné zrušia. Plant sa k skupine vrátil až v júli '78. Medzitým už išli chýry, že sa rozpadli. Na jeseň začali s prípravou nového albumu, ktorý sa nahráva u skupiny ABBA v Polar štúdiu v Štokholme. 20. augusta 1979 vychádza deviaty album s názvom In Through The Out Door. Bol prvý doma aj v Spojených štátoch a iba v Amerike prevýšil predaj platní sumu 4 milióny výliskov.
Na jar roku 1980 si našli Led Zeppelin čas aj na starý kontinent. Ohlasujú veľké európske turné, ktoré skončilo v Západnom Berlíne. V septembri sa schádzajú v dome u Jimmyho Pagea, aby začali skúšky pred ďalším turné do Spojených štátov. 25. septembra 1980 neprišiel bubeník John Bonham na skúšku. Poslali za ním zvukového technika Benji Le Fevra. Ten ho našiel doma mŕtveho udusil sa v posteli po záchvate. Skupina oznamuje, že bez Bonhama nebude pokračovať. V decembri '82 vychádza album Coda, ktorý zostavil Jimmy Page zo starších nahrávok, ktoré neboli vydané. Page, Plant aj Jones sa venujú sólovej činnosti. V júli 85 vystúpili Led Zeppelin na koncerte Live Aid. Za bicími bol Phil Collins. Dohromady sa dali aj v máji 1988, vystúpili v New Yorskej Madison Square Garden na koncerte pri príležitosti 40. výročia firmy Atlantic Records, u ktorej vydali prvých 5 albumov. Za bicími sedel Bonhamov syn Jason. Ich dlhoročný manažér Peter Grant dal prehlásenie, že skupina sa už nezíde na koncerte ani v štúdiu. Jeho tvrdenie už neplatí. 10. decembra 2007 sa po devätnástich rokoch a šiestich mesiacoch zišla na pódiu v londýnskej O 2 Aréne pôvodná trojica Page, Plant, Jones, za bicími bol Jason Bonham, syn bubeníka pôvodnej zostavy Johna Bonhama. Pre 20 tisíc šťastlivcov, ktorí sa na koncert dostali (záujemcov bolo viac ako 20 miliónov) to bol skvelý zážitok.
