Do kapely přišel jako čtvrtý a poslední člen, ale působil v ní od jejího vzniku až do jejího rozpuštění po smrti Johna Bonhama v roce 1980. Jones byl všestranný, vynikající studiový hudebník, baskytarista, hráč na klávesové nástroje, mandolínu, koto, ukulele, violoncello, nebo zobcovou flétnu. Je tak respektovaným hudebníkem, jakož i producentem a je považován za jednoho z nejvlivnějších baskytaristů rockové hudby.