Основан в 424–421 годах до н. э. выходцами из малоазийской Гераклеи Понтийской. Существует также версия о наличии более раннего поселения.
Заложен у нынешней Карантинной бухты. Колония вскоре освоила Гераклейский полуостров, а затем и территории северо-западного Крыма.
В V веке Херсонес вошёл в состав Византийской империи, а в IX веке стал одной из её военно-административных областей — фемой. Вплоть до XIII века он был форпостом Византии в Крыму.
В 1299 году татаро-монгольское войско разорило и уничтожило город. Спустя 100 лет жизнь здесь окончательно угасла, и несколько столетий на его месте оставались одни лишь руины.