合水位于庆阳以东，子午岭林地中流下的溪水在此汇合。县名意为水流相合：建水在县城附近与另一条河流相会，随后向南流向马莲河。周围黄土塬被深谷分割，东面山岭林木繁茂。明代合水是庆阳府所辖诸县之一，河流交汇处构成这座县邑鲜明的地理位置。