Era originario di Montella, in provincia di Avellino, appartenente a una famiglia di costruttori. A Montella uno zio aveva aperto nel 1932 un cinema-teatro. Era cugino del politico locale Attilio Fierro.
Si laureò negli anni quaranta in Ingegneria, ma nel 1951 vinse un concorso di Voci Nuove, primo su 600, che gli consentì di firmare un contratto con la Durium, con cui avrebbe poi inciso una serie di canzoni in lingua napoletana e in italiano. Nel 1952 vinse con Rose, poveri rrose! il primo festival di Castellammare di Stabia. Questo lo spinse a lasciare la professione di ingegnere per potersi dedicare alla musica. Il suo primo successo fu Scapricciatiello. Nel 1956 vinse il Festival di Napoli con Guaglione. La canzone gli diede fama internazionale, anche grazie alle numerose 'tournée' che compì in USA e Canada. Fu tradotta in diverse lingue e la versione francese, Bambino, lo portò l'anno dopo all'"Olympia" di Parigi per 3 settimane dal 22 maggio all'11 giugno con un enorme successo, tanto che gli fu chiesto di prorogare lo show, ma l'imminente nascita del primo figlio gli impedì di rimanere. Raggiunse la grande popolarità nel 1957 con Lazzarella, scritta da Domenico Modugno. La canzone divenne colonna sonora dell'omonimo film in cui Fierro recitava al fianco di Luigi De Filippo, Tina Pica e Domenico Modugno.
Partecipò a sei Festival della canzone italiana di Sanremo (1958, 1959, 1961, 1962, 1963 e 1964) e a diverse edizioni del Festival della canzone napoletana, del quale vinse cinque edizioni (1956-58-61-65-69) oltre a ottenere sei secondi e due terzi posti. Partecipò anche a varie edizioni di Canzonissima, ottenendo la vittoria nell'edizione del 1957 (chiamata Voci e volti della fortuna) con il brano Scapricciatiello. Una delle sue canzoni più note è 'A pizza, scritta da Alberto Testa e presentata al Festival di Napoli 1966, in coppia con Giorgio Gaber. Nel 1961 partecipò al Giugno della Canzone Napoletana.