Planując montaż pompy ciepła należy przemyśleć wybór odpowiedniego typu ogrzewania wodnego. Optymalnym rozwiązaniem jest funkcjonowanie pompy ciepła przy możliwie wysokiej temperaturze gruntu lub powietrza oraz przy realnie niskich temperaturach zasilania systemu grzejnego domu. Najczęściej wybiera się ogrzewanie podłogowe, które funkcjonuje już przy temperaturze zasilania około 40 stopni. Generuje ono idealny rozkład temperatur dla człowieka – temp. podłogi jest większa przy niższej temp. na wysokości głowy. Podczas ciepłych miesięcy układ ogrzewania podłogowego może być stosowany do obniżania temperatury pomieszczeń. Odrębnym typem ogrzewania wodnego, który idealnie współdziała z pompą ciepła jest ogrzewanie płaszczyznowe instalowane w płaszczyźnie ściany lub sufitu. Systemy kolektorów instaluje się najczęściej w ścianach zewnętrznych w okolicach otworów okiennych. Na sufit wykorzystuje się maty kapilarne lub panele pełniące funkcję grzewczą i chłodzącą.
Jeżeli nie uda się zainstalować urządzeń ogrzewania niskotemperaturowego podczas budowy domu, istnieją urządzenia, które można zainstalować w późniejszym czasie. Z pompą ciepła doskonale współdziałają klimakonwektory. Instalowane są one na ścianie jak powszechne grzejniki. Ich zasadniczą część stanowi element grzejny wraz z nawietrznikiem, który tworzy obieg powietrza. Przeznaczone są do systemów niskotemperaturowych w trakcie chłodnych miesięcy oraz do obniżania temperatury pomieszczenia w trakcie ciepłych miesięcy. Zastosowanie pompy ciepła nie przekreśla zastosowania tradycyjnych grzejników, jednak muszą one zostać dopasowane adekwatnie do niskiej temperatury zasilania. Rozmiarowo będą one znacznie większe niż przy konwencjonalnym układzie grzewczym. Zastosowanie ich w instalacji z pompą ciepła nie umożliwi ochładzania domu podczas lata.