Celý princip je založen na přírodních zákonech. Tepelná čerpadla berou teplo z okolí objektu – ze vzduchu, země či vody. Teplota se mění během přeměny skupenství – vypařováním, kde se uskutečňuje přechod z kapalného skupenství na plynné, a kondenzací – přechod z plynného skupenství na kapalné. Tento celý proces probíhá v kompresoru, kde se provádí změna tlaku a kde platí, čím vyšší tlak, tím rychleji se z kapaliny stává pára a naopak. Stlačováním chladných par dochází k jejich zahřátí. Ke změně kapalné látky do plynného skupenství, potřebujeme energii zvenku.
U tepelného čerpadla vzduch-voda, venkovní jednotka bere vzduch a vede ho k tepelnému výměníku. Zároveň je zde kapalné chladivo, které je studenější než přiváděný vzduch, což vede ke změně teploty a začíná se vypařovat. Kompresor vezme chladivo v plynném skupenství, a používá tlak na zvyšování jeho teploty. Teplá pára jde do kondenzátoru, který předá tuto vyrobenou energie do otopného systému v domácnosti. Chladivo se znovu převede do kapalného stavu a celý proces se znovu opakuje.
Jednodušší je si to si to představit u ledničky, která bere teplo potravinám a pomocí výparníku ho odvádí ven – když si šáhnete na ze strany na ledničku zvenku, je horká. Tepelné čerpadlo pracuje na podobném principu.