Der österreichische Kernphysiker war einer jener Männer, denen nachgesagt wurde, dass sie während des Zweiten Weltkriegs in Deutschland die Atombombe hätten bauen können, wenn genügend Mittel bereitgestellt worden wären. Harteck studierte an der Universität Wien, wechselte danach an die Berliner Universität, wo er 1926 das Studium abschloss. Er arbeitete ab 1928 am Kaiser-Wilhelm-Institut für Physikalische Chemie in Berlin-Dahlem bei Fritz Haber.
Zwischen 1934 und 1951 war er Mitglied des Lehrkörpers der Universität Hamburg. Zeitweise war er gemeinsam mit Otto Hahn und Werner Heisenberg auf dem Gebiet der Atomzertrümmerung in Berlin am Institut der damaligen Kaiser-Wilhelm-Gesellschaft tätig.
Harteck arbeitete auf dem Gebiet der Dampfdruckmessungen, der Photochemie, des Hydrogen, der Thermodynamik, der Atomphysik, über hohe und tiefe Temperaturen, über Gaszentrifugen, über physikalische und chemische Probleme der Atmosphäre, über spektroskopische Untersuchungen und Strahlenforschung sowie über die Atmosphäre von Planeten.