Sein Anwaltsdiplom bekam er von der Universität 1933 verliehen. Daraufhin eröffnete er eine Privatpraxis Baltimore. Bereits im folgenden Jahr arbeitete er die Bürgerrechtsbewegung . Schon 1936 gewann er seinen ersten größeren Bürgerrechtsfall Murry vs. Pearson ).
Den ersten Fall - von vielen - vor dem Obersten Gerichtshof ( Chambers vs. Florida ) schloss er 1940 erfolgreich ab. Doch sein erfolgreichster Fall Rechtsanwalt war Brown vs. Board of Eduacation of Topeka 1954 indem der Gerichtshof das Urteil verfügte eine separate but equal (=getrennte aber gleiche) öffentliche Schulbildung illegal weil man niemals auf diesem Wege eine nachweisen könne.
Präsident John F. Kennedy schlug Marschall zum 2. Appellationsgerichtshof 1961 vor. Als eine Gruppe von weißen Senatoren aus den Südstaaten seine Bestätigung aufhielten amtierte er für Monate mit einer Ausnahmegenehmigung. Marschall blieb an Gerichtshof bis 1965 da Präsident Lyndon B. Johnson ihn als General-Staatsanwalt ( general attorney ) einsetzte. Dieses Amt ist faktisch vergleichbar dem eines Justizministers. Zwei Jahre später benannte Johnson als Mitglied des Obersten Gerichtshofs und vor der Presse dass dies das richtige tun sein die richtige Zeit und der Mann am rechten Platz. ( the right thing to do the right to do it the right man and right place. )