Изначально Ансан назывался Чанхангу, однако ван государства Силла Чиндук переименовал его в Чангу. Современное название город получил в X веке.
Ансан играл важную военную роль как корейский форпост на Жёлтом море. Здесь располагалась мощная крепость (форт Лотоса) для обороны приморских районов Кореи от врагов.
На 32 год правления вана Коджона (династия Чосон) Ансан вошёл в состав уезда Сихын.
В 1976 году на месте Ансана был основан промышленный район Панволь, который в 1986 году был превращён в город Ансан.