タロコ国立公園は台湾中央山脈の稜線山脈地帯とその東側一帯に広がる立霧渓集水域に位置しています。このあたりの地質は中央山脈の東側地域の地質の縮小といわれ、主に先第三紀の変成雑岩または大南澳片岩と呼ばれる層から構成されています。中央山脈稜線とその西側に位置する平岩山、捫山、合歓山などは、第三紀変成時代の変成泥質岩層または板岩区を総称される岩石からなっています。
当地域には化石は少なく地質構造が複雑で、単地層の区分やその分布、形状などについては国内外の専門家の見方が一致しておらず、これからの研究がまたれています。区域内で岩層はほぼ北東から南西に方向をとっていて、東から西へ行くに従って年代はわかくなっています。
碧緑を境目として、それより西は始新世から中新世の岩層で、主に変成泥質岩層─例えば板岩、千枚岩から成り、その間に変成砂岩をはさんでいます。碧緑より東は、古生代晩期から中生代にかけての大南澳片岩系列が見られます。そのうち碧緑から天祥にかけては黒色片岩、緑色片岩、珪質片岩が主で、天祥から太魯閣の地層は大理石(結晶石灰岩)によって構成され、そこに片麻岩と少量の緑色片岩、石英岩などが所々に混ざって見られます。
台湾本島は地殻運動の影響で絶えず隆起を続けており、太魯閣地域ではそれに加えて立霧渓の急流が侵食するために、データが示すところによると、太魯閣峡谷は年に0.5cm以上上昇していることになります。地形は一部の河岸段丘を除いて非常に険しく、地域全体の面積の半分が55度以上の勾配となっています。一般に国立公園西側地域の変成泥質岩は、東側の片岩(特に大理石)より風化しやすいため、切り立った峡谷地形は主に天祥から東に集中しています。
昔、立霧渓は上流に金鉱があると考えられ、古くはスペインやポルトガルから金の採掘に夢を託した人達が山に入ろうと試みたものです。最近まで国立公園に指定されるまでは石材としての大理石や片麻岩、工業用に石灰石、白雲石、長石、石英、銅、鉄も採掘されていました。