Nasce a Napoli, il 25 maggio 1940. Comincia a suonare la fisarmonica sin da bambino, diventando un piccolo prodigio nel suo rione, per poi passare al pianoforte; la carriera inizia da adolescente, con un complesso che chiama I Gagliardi, giocando con il suo cognome, e che ottiene molto successo nelle esibizioni dal vivo a Napoli e nei dintorni.
Nel frattempo scrive le musiche delle sue prime canzoni, a cui abbina i testi di un suo amico, Gaetano Amendola, a volte scritti in napoletano, che sono caratterizzati da una ricercatezza e da una poeticità raffinata. All'inizio degli anni '60, dopo molta gavetta e serate, Peppino viene scovato dall’etichetta napoletana Zeus.
Dopo un primo 45 giri che passa inosservato a livello nazionale, contenente 'A voce 'e mamma, caratterizzato da un’interpretazione decisamente di rottura per i tempi, il successo arriva con T'amo e t'amerò, che risale al 1963. Il successo di T'amo e t'amerò fu per così dire “naturale”. Da successo locale, divenne a poco a poco un successo regionale e poi nazionale, senza alcuna spinta di majors discografiche, ma solo grazie all’interessamento dei giovani verso una ritmica d’impatto ed una interpretazione animalesca ma allo stesso tempo reale e sincera del cantante, autore anche del brano ( anche se firmato dal solo Amendola). Il successo fu tale che molti artisti, come Little Tony, cercarono di riproporlo ma con risultati artistici decisamente non paragonabili all’esecuzione ed interpretazione originale del cantante napoletano. Il successo fu così vasto ed importante da contribuire alla crescita dell’etichetta discografica Zeus, che nel frattempo ingaggiò e fece crescere altri giovani artisti locali, come Massimo Ranieri. Dopo aver raggiunto un notevole successo riesce a farsi notare da Walter Guertler, che rileva il contratto con la Zeus e lo inserisce in una delle più importanti case discografiche dell’epoca, la Jolly.
Negli anni sessanta partecipa a numerosi Festival di Napoli : nel 1964 con “Nisciuno 'o ppo' capì”( scritta con Amendola ) e “Mparame a vule' bene”, nel 1966 con “Scriveme” ( di Murolo ) e “Sole malato ( di Pazzaglia e Modugno ), “Sotte Stelle” ( di Murolo e Gagliardi ), ma è nel 1969 che con “O’ Scugnizzo” si piazza al terzo posto, oltre ad interpretare altri brani come “Ciento Notte” e “N’angiulillo”. Questa edizione del Festival napoletano fu molto particolare ed importante per l’artista, che nel periodo dal 1965 al 1968 partecipa per tre volte al Festival di Sanremo: nel 1965 con Ti credo, in abbinamento con Timi Yuro, nel 1966 con Se tu non fossi qui, con Pat Boone (la canzone, scritta dal maestro Carlo Alberto Rossi, verrà reincisa anche da Mina) e nel 1968, dopo aver cambiato casa discografica ed essere passato alla Det, con Che vale per me, con Eartha Kitt (anche questo brano è stato scritto da Carlo Alberto Rossi).
L’importanza del Festival di Napoli del 1969 fu decisamente nell'approccio che l’artista diede alle varie interpretazioni dei brani presentati, quasi a voler contrastare e contestare l’operato della sua casa discografica precedente la Jolly, forse troppo legata a plasmare gli artisti verso i canoni commerciali dell’epoca. Il Gagliardi del primo Sanremo, infatti, presenta un brano di forte impatto emotivo, dalla linea melodica particolare e molto elaborata, decisamente diverso dalle successive manifestazioni, in cui i brani non furono da lui firmati. La sua etichetta discografica cercava di plasmarlo al grande pubblico, quasi censurando e limitando le sue doti di interprete umorale e allo stesso tempo musicista di strada ma di gran classe. Tale fervore interiore venne infatti prima fuori con la famosa interpretazione del brano Se tu non fossi qui ( interpretata con il crocifisso in mano) e successivamente nella manifestazione napoletana del 1969, con interpretazioni come al solito molto particolari e meno soft rispetto alle precedenti. Al brano scritto dal maestro Carlo Alberto Rossi, Se tu non fossi qui , presentato alla massima manifestazione nazionale, Gagliardi fornì una interpretazione quasi “malata”, sporca ma decisamente particolare ed incisiva per l’epoca. Il brano fu poi reinciso, con più successo discografico, da Mina, anche se, a detta dello stesso autore e di molti critici, l’interpretazione del cantante napoletano rimane la migliore.
Nel 1968 firma con l'etichetta Det-CAM, e dopo un periodo di scarsi risultati discografici, trova nuovamente un discreto successo nazionale con il brano "Che vuole questa musica stasera", che divenne anche traccia musicale del film "Profumo di donna" di Dino Risi. Particolarità di quest'ultimo brano è anche l'enorme popolarità anche all'estero, soprattutto Giappone, in cui addirittura nel 2004 raggiunse la seconda posizione in classifica, sempre con l'interpretazione originale dell'epoca del cantante napoletano.
Gli anni sessanta furono importanti ma anche molto difficili per l'artista napoletano. Il successo clamoroso di "T'amo e t'amerò", il primo contratto discografico importante ma anche molti contrasti con le etichette discografiche dell'epoca, che imponevano un certo standard, con la difficoltà di imporre nuove e sue composizione. Tutto ciò diede origine a periodi di ingiusto anonimato discografico ma anche a fortificare la ragione dell'artista di voler imporre proprie composizioni e soprattutto cercare la piena libertà artistica.
Gli anni settanta rappresentarono il vero periodo d'oro per l'artista napoletano. Libero da legami con altre case discografiche, l'artista si concentra sulla sua attività compositiva, cercando un proprio filone musicale. Cerca e trova un etichetta indipendente la King, di proprietà di Aurelio Fierro, che riesce a garantire al musicista piena indipendenza musicale. Ecco pertanto nascere nell'artista la consapevolezza della propria creatività musicale ed anche interpretativa, con l'intento di imporle. La sua musica cambia diventa, in controtendenza, più melodica ma anche più complessa. Le radici che si fondono sono essenzialmente due: quella classica e quella napoletana. Il connubio artistico con il suo storico paroliere, Gaetano Amendola, si consolida maggiormente, ma non mancano collaborazioni importanti anche con altri artisti come Roberto Murolo. Lo spartiacque artistico è rappresentato dal brano Settembre (1970), che oltre a classificarsi secondo all'importante manifestazione "Un Disco per l'Estate", vende molto. A consolidare l'importante posizione assunta dal musicista napoletano nel panorama nazionale sono i successivi successi : Gocce di Mare, Ti amo così, Sempre sempre nel (1971), quest'ultima ancora seconda alla manifestazione "Un Disco per l'Estate", Come le viole ( con cui ritorna al Festival di Sanremo nel 1972, classificandosi al secondo posto e soprattutto vendendo moltissime copie ) e Come un ragazzino ( favorita alla vigilia ma solo seconda a Sanremo nel 1973). Il pubblico gli dà ragione ma i critici a volte puntano un pò il dito sui testi e sulla similarità di alcune melodie composte dall'artista. In realtà il musicista napoletano offre un ventaglio musicale notevole, basti pensare che all'importante trasmissione televisiva "Canzonissima 1971", l'artista propone un brano, sempre di sua composizione, in fortissima controtendenza e sicuramente molto più difficile ed immediato dei precedenti, La Ballata dell'uomo in più, ma il pubblico gradisce ancora. Dal 1970 al 1973, Peppino Gagliardi partecipa alle più importanti manifestazioni e trasmissioni televisive dell'epoca vedendolo quasi sempre assoluto protagonista. È soprattutto l'immediatezza e la raffinatezza interpretativa del musicista che vanno la differenza, ma anche il suo profondo rispetto per la musica ben fatta ed è per questo che è sempre affiancato nelle incisioni da grandi strumentisti e musicisti, basti citare alcuni nomi : Tullio De Piscopo, Stelvio Cipriani ed il futuro premio Oscar Bill Conti.
Nel 1974 raggiunge forse l'apice artistico e creativo; infatti, dopo aver firmato con una importante etichetta discografica, la Philips, Phonogram, da alle stampe 2 albums nell'arco di 12 mesi, 'Vagabondo della Verità' e 'Quanno Figlieto chiagne e vò cantà .....' che rappresentano, soprattutto il secondo, l'apice artistico ed un punto di arrivo per il cantante - compositore napoletano. L'album 'Vagabondo della Verità', nel quale trova spazio il singolo di successo 'La mia poesia', fornisce in modo più elegante e raffinato la concezione musicale dell'artista, pure e semplici melodie con liriche più evolute rispetto al recente passato, ma soprattutto un elemento notevole ossia l'elevata padronanza interpretativa delle canzoni, tutte portanti il binomio Gagliardi - Amendola. L'album, supportato da un'ottima promozione, ottiene un discreto successo con ottime canzoni tra le quali spiccano, oltre al singolo prima richiamato, anche :'Ragazzina',la title track 'Vagabondo della Verità' e 'Se mi telefonassi'. Nello stesso periodo il musicista si dedica, come detto in precedenza, alla sua più importante opera creativa, quella di musicare poesie inedite dei più importanti poeti napoletani passati e presenti: Nicolardi, Di Giacomo, Murolo senior, E.A. Mario ed altri. Il progetto, ambizioso e rischioso allo stesso tempo, aveva tuttavia una sua coerenza di fondo, insita nell'obiettivo artistico del musicista napoletano, ossia mostrare al pubblico la creatività compositiva unendola in simbiosi con una poetica ineccepibile ma soprattutto testimoniare il profondo rispetto per le sue radice napoletane. Il progetto ebbe seguito con l'avallo di tutti, basti pensare che gli eredi dei poeti sopramenzionati, diedero il consenso alla pubblicazione delle poesie inedite musicate dall'artista napoletano, che come per il precedente album, affidò gli arrangiamenti al musicista romano Claudio Gizzi. Il risultato raggiunto fù notevole, e l'album 'Quanno figlieto chiagne e vo cantà , cerca int'a sacca... e dalle a libbertà, pur non avendo avuto quel notevole successo commerciale degli albums precedenti, rappresenta sicuramente da un lato l'opera artisticamente migliore e più importante di Peppino Gagliardi ma anche uno dei più importanti albums di musica napoletana inedita moderna nonché un pregevolissimo documento storico, nel quale l'artista offre un gusto compositivo e delle interpretazioni impeccabili.
L'artista, pago dell'obiettivo raggiunto soprattutto dal lato della critica, si dedica alla creazione di una propria etichetta discografica la PG Record che dal 1976 al 1980 pubblico 3 tre albums dell'artista nonché produsse e cercò di lanciare nuovi artisti e cantanti. Nel frattempo si dedica alla partecipazioni a molte trasmissioni televisive e nel 1976 condusse su Rai Due con Bruno Lauzi il programma varietà 'Bim bum bam'.
Negli anni '80 Gagliardi, a causa di alcuni insuccessi, dirada l'attività discografica in Italia, continuando però a tenere alcuni concerti, specialmente in estate nel sud Italia; continua invece a pubblicare qualche disco all'estero (in America Latina e in Giappone.
Nel 1993 torna al Festival di Sanremo con L'alba, non riuscendo però a qualificarsi per la finale.
Nel 2006 Giuliano Palma & the Bluebeaters hanno inciso una versione ska della sua bella canzone Come le viole, che ebbe molto successo.