Begrebet "grå energi" beskriver det energiforbrug, der er forbundet med et produkt i løbet af dets levetid - fra produktion og brug til bortskaffelse. Kritikere hævder, at moderne varmepumper klarer sig særligt dårligt her, på grund af deres mange komponenter og kølemidlerne.
Det første punkt gælder for alle centralvarmesystemer: Uanset om der bruges en varmepumpe eller et gasfyr til at generere varme, er der altid brug for rør, pumper og varmeflader til at distribuere termisk energi og overføre den til hjemmet.
Kølemidler er et meget reelt kritikpunkt - især de tidligere meget anvendte fluorholdige kulbrinter (F-gasser), som R-410A, der er 2088 gange mere skadelig for klimaet end den samme mængde CO2. Det gælder dog kun, hvis det slippes ud i atmosfæren. Da varmepumper er lukkede systemer, sker dette ikke, hvis de bortskaffes korrekt. Det er også vigtigt at bemærke, at den såkaldte F-gas forordning forbyder skadelige kølemidler.