Sein Lebenslauf und sein Werk war mit dem seines jüngeren Bruders Wilhelm Grimm verbunden was in der früher gebrauchten Bezeichnung Gebrüder Grimm zum Ausdruck kommt.
Jacob Grimm verbrachte seine Jugend in Steinau wohin sein Vater 1791 als Amtmann versetzt worden war und dann ab 1798 mit seinem Bruder Wilhelm das Lyzeum in Kassel . 1802 schrieb er sich an der Universität Marburg ein wo er unter Savigny Jura studierte. Durch Wachlers Vorträge wurde seine Aufmerksamkeit mehr und mehr auf den Sprachstamm und die Schätze der deutschen Literatur worauf sie schon Savignys rechtshistorische Forschungen hingelenkt Als Savigny 1804 wegen wissenschaftlicher Forschungen nach Paris ging ließ er Grimm bald dahin um sich seiner Hilfe bei literarischen Arbeiten bedienen.
Im September 1805 nach Kassel dem Wohnort seiner Mutter erlangte er hier mit vieler Mühe den eines Accessisten beim Sekretariat des Kriegskollegiums nahm noch vor Ablauf eines Jahrs seinen Abschied. Johannes von Müller dem damaligen Kabinettssekretär des von Westfalen empfohlen erhielt er im Juli 1808 eine Anstellung als Bibliothekar des Königs wurde im Februar 1809 außerdem zum Auditor im Staatsrat ernannt. Die viele Muße die ihm amtlichen Geschäfte ließen verwendete er auf das der altdeutschen Poesie und Sprache. Die ersten Resultate seines legte er in der Schrift "Über den Meistergesang" (Götting. 1811 ) nieder welcher bald der 1. Band allbekannten unmittelbar aus dem Volksmund geschöpften Kinder- und Hausmärchen (Berlin 1812 ) folgte. Das letztere Werk von dem 2. Band 1815 und der dritte die Märchenliteratur enthaltend 1822 erschien (3. Aufl. 1856) während vom ersten zweiten neue Ausgaben (20. Aufl. 1885) und Ganzen eine kleinere Ausgabe (welche fortwährend in Auflagen erscheint) nötig wurden fand sofort ungeteilten
Zusammen mit seinem Bruder Wilhelm gilt als Begründer der germanischen Altertumswissenschaften der germanischen Sprachwissenschaft und der deutschen Philologie . Beiträge wie "Über den deutschen Meistergesang" neben der Forschung Karl Lachmanns als die soliden Bestandsaufnahmen älterer deutscher Literatur gelten. Berühmt beide durch ihre Sammlung " Kinder- und Hausmärchen der Brüder Grimm " (2 Bde. 1812-1815) und durch die am " Deutschen Wörterbuch " (ab 1838 1. Bd. 1854).
Jacob Grimm formulierte 1822 das erste Lautgesetz das die erste Lautverschiebung beschreibt. In angelsächsischen Ländern ist die Lautverschiebung seither als Grimm's Law bekannt.
Teile des Nachlasses (wie beispielsweise Bücher Bibliothek mit Randbemerkungen) liegen in der Staatsbibliothek zu Berlin - Preußischer Kulturbesitz (SBB-PK).