Marx wurde als Sohn eines Volksschullehrers Er wuchs in Köln auf und legte dortigen Marzellengymnasium 1881 sein Abitur ab. Marx Rechtswissenschaften . Während seines Studiums wurde er Mitglied katholischen Kartellverbands . Nach seinem Abschluss arbeitete Marx als kurzzeitig in Köln und Waldbröl . Dann ging er kurzzeitig in das und Grundbuchamt in Simmern . Seit 1894 arbeitete Marx als Richter Landgericht in Elberfeld ; 10 Jahre später kam er als und später Oberlandesgerichtsrat zurück nach Köln. Von bis 1921 war er ebenfalls Oberlangesgerichtsrat allerdings der anderen Seite des Rheins - in Für einen bekennenden Katholiken der zudem in der Zentrumspartei tätig war war dieses Amt das was er im preußischen Staatsdienst erreichen konnte.
Nach der Gründung der Weimarer Republik wurde Marx Landgerichtspräsident in Limburg kurz darauf gefolgt von der Beförderung Senatspräsidenten des Kammergerichts in Berlin.
Er war seit 1891 mit Johanna verheiratet mit der er vier Kinder hatte.
Der Katholik Marx war früh in Vertretung des politischen Katholizismus dem Zentrum aktiv. in Elberfeld leitete er den dortigen Zentrums-Verein. war er Vorsitzender des Zentrums in Düsseldorf.
Marx war von 1899 bis 1918 im preußischen Landtag. Marx nahm ebenfalls an Preußischen Verfassunggebenden Versammlung 1919/1920 teil. Ab 1910 er ebenfalls als Vertreter des Wahlkreises Mülheim/Ruhr-Wipperfürth Reichstag an. Seit 1916 war er dort der Fraktion. Dort war er insbesondere in Schul- und Kulturpolitik aktiv. Über die Lager galt er als ruhiger vermittelnder Politiker der wenig Feinde machte und stets auf einen hin arbeitete.
Während des Ersten Weltkriegs trat Marx für die Friedensresolution und zu weitreichende Annexionsforderungen ein. Während der Alliierten des Rheinlandes trat er im Gegensatz zu anderen Politikern aus der Region gegen eine des Gebiets von Preußen ein. Seine Unterstützung Versailler Vertrags begründete Marx vor allem mit der dass das Rheinland ohne den Vertrag endgültig Preußen getrennt werden könnte.
In der Weimarer Republik war Marx zunächst darum besorgt das zu einigen und so eine geschlossene Unterstützung Regierung Wirth herbeizuführen. Ihm geling dies zum einen seinen Politikstil zum anderen durch die Berufung den Katholizismus und das Bekenntnis der gesamten zur Bekenntnisschule.
Marx führte die Regierung der Weimarer während einiger ihrer zahlreichen Krisen. Es gab mit den Ländern Sachsen und Bayern ihm besetzten Rheinland blühten separatistische Bestrebungen. Nach der Inflation von 1923 die Einführung der neuen Währung ebenfalls zu wirtschafts- und finanzpolitischen Problemen. Marx reagierte darauf mit Spaßmaßnahmen öffentlichen Haushalts Entlassung von Personal der Einführung Steuern. Es gelang ihm so einen Wirtschaftsaufschwung Die Entwicklung stabilisierte sich Ende Februar 1924 der militärische Ausnahmezustand aufgehoben werden. In Marx' fällt die Annahme des Dawes-Plan ebenso wie die Annahme der Londoner
In Marx' zweiter Amtszeit trat Deutschland Völkerbund bei. Marx setzte den Generaloberst Hans von Seeckt ab der die Reichswehr zu einem Staat im Staate ausgebaut Allerdings stürzte Marx dann auch über diese Der Sozialdemokrat Philipp Scheidemann enthüllte im Reichstag die Zusammenarbeit der mit der Roten Armee .
Als Kandidat der Weimarer Koalition für Amt des Reichspräsidenten scheiterte er knapp gegen Paul von Hindenburg . Besonders schmerzlich für ihn war dabei dies unter anderem durch die Unterstützung durch Volkspartei und anderer katholischer Gruppen für Hindenburg wurde.
Marx war vom 10. Februar bis März Ministerpräsident Preußens und amtierte 1926 als Justizminister unter Nachfolger Hans Luther . Bis 1932 gehörte er noch dem an die Zeit des Nationalsozialismus verbachte Marx vollkommen aus der Öffentlichkeit in Bonn.
Der Staatspräsident Badens der DDP-Politiker Willi Hellpach bezeichnete ihn idealtypischen Zentrumspolitiker .