Nach einer Elektrikerlehre und dem Besuch Ingenieurschule war er als Telefonbau-Ingennieur bis 1933 Angestellter bei der Deutsche Werke AG in Kiel. Diekmann war seit 1918 Mitglied der SPD . Von 1929 bis 1933 war er Stadtverordneter in Kiel. Nach Machtübernahme 1933 kam er zunächst in Schutzhaft .
Am 29. August 1949 wurde er dann zum Ministerpräsidenten des Schleswig-Holstein gewählt.
Bei der Landtagswahl 1950 verlor die SPD ihre absolute Mehrheit und erreichte nur noch 27 5 der Stimmen. Daraufhin wählte eine Koalition aus CDU FDP und DP den CDU-Kandidaten Walter Bartram zu Diekmanns Nachfolger.
Diekmann übernahm daraufhin den Vorsitz der fraktion .