Geboren in eine Arbeiterfamilie studierte Matthöfer einer kaufmännischen Lehre an der Universität Frankfurt und Sozialwissenschaften und schloss 1953 als Diplom-Volkswirt sein Studium ab.
Über seine Arbeit bei der Gewerkschaft IG Metall (bis 1957 im Vorstand) wurde er als Mitglied SPD der er 1950 beigetreten war von 1961 bis 1987 Mitglied des Deutschen Bundestages. Von 1972 bis 1974 war er Parlamentarischer Staatssekretät im Bundesministerium wirtschaftliche Zusammenarbeit. Von 1974 bis 1978 war er im Kabinett Helmut Schmidt Bundesminister für Forschung und Technologie. Nach Kabinettsumbildung wurde er von 1978 bis 1982 Bundesminister der Finanzen bevor er 1982 einige Monate zum Bundesminister für das Post- Fernmeldewesen berufen wurde.
Von 1985 bis 1987 war Matthöfer Schatzmeister der SPD.