Mahoney je imao uspješnu karijeru u pozorištu, glumio u mnogim filmovima i TV serijama. Osvojio je i nagradu Tony.
Ipak, najviše će biti upamćen po ulozi nepretencioznog oca Fraisera i Nilesa Cranea u hit komediji koja je emitovana u 11 sezona od 1993. do 2004. godine. Osvojio je SAG nagradu 2000. godine za ovu ulogu i nominovan je za dva Emmyja i dva Zlatna globusa.Mahoney je rođen u Blackpoolu u Engleskoj gdje je njegova trudna majka evakuirana kako bi izbjegla nacističko bombardovanje. Preselio se u SAD kao mladić, služio vojsku tri godine i zbog toga je izgubio britanski akcent. Profesionalni glumac postao je u 40-im godinama, nakon što su ga John Malkovich i Gary Sinise pozvali da im se pridruži u pozorištu Steppenwolf Theatre Company.
Bio je član ovog teatra 39 godina i postao je poznati dio pozorišne scene Chicaga. Upravo je teatar objavio kako je Mahoney preminuo od komplikacija nastalih zbog bolesti raka.
– John je bio voljeni član Steppwolf porodice koji je bio poznat po svojoj neobičnoj ljubaznosti, velikodušnosti duha i brzom osmijehu – navodi se u saopćenju.
Posuđivao je glas u animiranim filmovima poput “Atlantis: The Lost Empire”, “The Iron Giant” i “Antz”.