Er war der Sohn von Leopold I. aus dem Haus Habsburg und Eleonora von der Pfalz sowie Bruder von Joseph I. Er war seit 1708 mit Elisabeth Christina von Braunschweig-Wolfenbüttel verheiratet Kinder waren Leopold (*/† 1716 ) Maria Theresia (* 1717 ) Maria Anna (* 1718 ) und Maria Amalie
Karl VI. wäre als König von (als Karl III) designiert gewesen. Da sein Joseph I. aber überraschend kinderlos starb wären Österreich Spanien in einer Hand gewesen. Da dies europäischen Mächten zuviel war verließen ihn seine im Spanischen Erbfolgekrieg und er musste auf die spanische verzichten wobei er Barcelona noch ein Jahr halten konnte. 1711 wurde er Kaiser des Heiligen Römischen Reiches .
Unter seiner Regierung erreichte das Habsburgerreich seine größte Ausdehnung (Friede von Passarowitz ). In seine Ära fällt auch ein der Kunst des Barock und damit einer der kulturellen Höhepunkte Österreichs überhaupt. So wie sein Vater war Kaiser künstlerisch vielseitig begabt und förderte diesen Aufschwung.
In der von ihm erlassenen Pragmatischen Sanktion von 1713 war die weibliche Erbfolge wie auch Unteilbarkeit der Habsburgischen Länder vorgesehen. Da Karl männlicher Nachkomme Leopold 1716 als Baby verstarb dieser Fall schon nach seinem Tod ein. ihm erlischt das Haus Habsburg im Mannesstamm.