初期コストを下げることの重要性は、広く地中熱が広まっているヨーロッパ、米国でもいまだに言われている重要なテーマです。もちろん地中熱の認知度がやっと高まり始めた日本では、ヨーロッパ、米国と比べても、まだかなり初期費用が高いことから、より重要なテーマとなっています。

初期費用の大部分を占める掘削コストが、ヨーロッパ、米国と比べて日本において高い理由として、年間の掘削件数が少ないことのほかに、地質が多様であり、更に崩壊しやすい地質が多いことが挙げられます。その代わり、日本の多くの地域では、地下水の流動が認められます。地下水が活発に流れている地域では、効率よく地中と熱交換できるため、熱交換井の長さを短縮することができます。掘削深度を短くすることで、初期コストの低減にもつながります。

また、地下水を汲み上げ、地上で熱交換するシステム（オープンループ）においては、既に使用している地下水・工業用水を熱源として利用することで、容易に地中熱の利用が可能となります。ただし、新たに井戸を掘って地下水を汲み上げる場合には、地方自治体等で詳細な規制がかかっていますのでそれを調べる必要があります。

このほか、ボーリングや杭による垂直型の地中熱交換器ではなく、バックホーで掘れる深さに埋設する水平型の地中熱交換器も使われ始めています。水平型は広い場所が必要ですが、工事費を大幅に削減できます。また、建築物に必要となる杭を熱交換器として利用する方法もあります。鋼管杭、ＰＣ杭、場所打ち杭などの種類がありますが、それらを使うことで初期コストを低減することが可能となります（以下の図を参照）。