Kurz nach Ende des Zweiten Weltkrieges und der Gründung Nordrhein-Westfalens wurde er am 17. Juni 1947 der erste frei gewählte Ministerpräsident.
In den Jahren 1950 und 1954 wurde er durch den Landtag wiedergewählt.
In seine Amtszeit als Ministerpräsident fielen der Wiederaufbau des Landes und der Staatsaufbau Nordrhein-Westfalens sowie die Eingliederung des Landesteils Lippe in das noch junge Land.
Karl Arnold setzte in seinen Regierungsjahren entscheidende Impulse zur Gründung des öffentlich-rechtlichen Rundfunks, zu einer Politik für junge Menschen und zur Mitbestimmung in Unternehmen.
Mit seinen Vorstellungen zur Montanunion hat er auch der Einigung Europas eine Idee gegeben.