Karl Girkmann studierte Bauingenieurwesen an der Technischen Hochschule Wien und war während des Ersten Weltkriegs als Offizier im Eisenbahnregiment mit dem Neubau von Brücken betraut. Nach Kriegsende wandte sich Girkmann bei AEG in Wien der Errichtung von Überlandleitungen für Wasserkraftwerke zu. Bei der Waagner-Biro A. G. beschäftigte er sich mit dem Stahlhochbau und war etwa beim Stahlskelettbau der Tabakfabrik in Linz federführend beteiligt.
1938 bis zu seiner Emeritierung 1958 war er Ordentlicher Professor für Technische Mechanik an der Wiener Technischen Hochschule (1950/51 auch Rektor) und verfasste in dieser Zeit ein grundlegendes Werk über die Berechnung und Konstruktion von Flächentragswerken, das kurz nach dem Zweiten Weltkrieg erstmals erschien.
Mit grundlegenden wissenschaftlichen Arbeiten und Publikationen über den Brückenbau, den Stahlhochbau, den Behälterbau und viele andere Zweige des Bauwesens gilt Girkmann als federführend für die Entwicklung im Bauingenieurwesen in der ersten Hälfte des 20. Jahrhunderts.