阿尔山境内主要河流有三条，哈拉哈河、伊敏河、柴河。其中，哈拉哈河、伊敏河属额尔古纳河水系，柴河属嫩江水系。
阿尔山境内湖泊众多，从高处看去，高位火山口湖像一块块明镜，而火山堰塞湖则像串串珍珠，由它们共同组成了别具一格的高山泽国、边城水乡。主要湖泊有杜鹃湖、天池湖、仙鹤湖和松叶湖等，其中一些已成为当今阿尔山国家森林公园主要景点。
阿尔山境内地下水资源比较丰富，其特点是埋藏浅、易成井，水量大，水质好。地下水补给来源主要是大气降水。由于区域内降水丰沛，河网密布，地下水补给来源充足，而且地下径流较通畅，在水的强烈交替过程中，涌水量大，水质优良。
