遂安位于黄海道内陆丘陵，载宁平原的东北方。高丽时期的1310年，此地升为遂州。一种说法将此归功于在元廷任职的当地人，另一说则认为是为了酬谢筹得赈灾粮食的人。朝鲜政府于1417年将此地改名遂安，自1450年起派驻郡守。