阿尔山境内主要河流有三条，哈拉哈河、伊敏河、柴河。其中，哈拉哈河、伊敏河属额尔古纳河水系，柴河属嫩江水系。
【哈拉哈河】兴安、天池、南沟水流汇聚，由东向西经金江沟、立新、伊尔施流经蒙古国注入贝尔湖，而后转入达赉湖，最后流入额尔古纳河。阿尔山境内全长136公里，河宽100—200米，深1—3米，流量13.3立方米／秒。境内的支流有：苏呼河、古尔班河、三号沟河、羊肠河、金江沟河、哈达南沟河、立新河、阿尔山河、伊尔施河、南沟河分别注入哈拉哈河。
【伊敏河】发源于阿尔山北部，由伊敏河、桑都尔河水流汇聚而成，自南向北经德廷德流入海拉尔河，后注入额尔古纳河。
【柴河】发源于阿尔山东部，向东流入柴河，最后汇入嫩江。
