三水位于鸭绿江上游山区，长津江和虚川江在这一带汇入边界大河。其名称或许便源于这三条河流。三水原是甲山辖下的城堡，1441年设置万户。十五世纪中叶，朝鲜朝廷加强北方边防，此地修筑了石砌邑城。1464年，郡治迁入城中。