В 1825 году главный командир Черноморского флота и портов адмирал А. С. Грейг (1775–1845) просил Высочайшего разрешения установить памятник на развалинах Херсонеса — места, где принял крещение князь Владимир. Архитектор К. А. Тон (1794–1881) разработал проект памятника-собора в русско-византийском стиле: крестово-купольный храм с пятью главами. В июле 1829 года началась всероссийская подписка по сбору средств, продолжавшаяся до 1832 года. Добровольные пожертвования поступали от разных слоев населения, только в Таврической губернии собрали 527 рублей 95 копеек. 5 сентября 1837 года был Высочайше утвержден фасад, план и профиль храма, но распоряжения о начале строительства не последовало, сметы не составлялись.
В июне 1842 года адмирал М. П. Лазарев обратился к Николаю I с просьбой построить собор не на развалинах Херсонеса, а в центре Севастополя, так как в то время в городе действовало мало православных храмов, а добираться до Херсонеса было далеко. Спустя месяц получили разрешение Императора и начались подготовительные работы. Возглавил строительство городской архитектор В. А. Рулев. Изучив местность, он внес дополнения в проект Тона, собор предполагалось обнести чугунной оградой с тремя воротами и выстроить два служебных домика. Уточненный проект Император одобрил 11 апреля 1845 года, а 8 мая создали строительную комиссию во главе с «капитаном над Севастопольским портом» вице-адмиралом Г. И. Рогулей. Но подготовительные работы начались лишь в сентябре. Местность расчистили, часть вырытой земли использовали для выравнивания рельефа, чтобы впоследствии к собору можно было подъехать на лошадях, другую часть вывозили на подводах. Все работы производились командами матросов Черноморского флота и шли медленно из-за твердого скального грунта, который приходилось взрывать пороховыми зарядами.
9 ноября 1850 года была составлена смета на постройку собора из инкерманского камня с подземным этажом. Внутри стены предполагалось отделать мрамором, купола покрыть золоченой медью, которую вместе с оградой и воротами изготавливали на Ижорском заводе. Адмирал Лазарев заказал в Италии мраморный иконостас и иконы на медных досках.
Но в 1851 году адмирал М. П. Лазарев умер от тяжелой болезни в Вене, в память о его заслугах решили похоронить главного командира Черноморского флота на месте будущего собора. На сооружении склепа днем и ночью работали 200 человек, и к 5 мая 1851 года, когда пароход «Владимир» с телом адмирала прибыл в Севастополь, он был готов. 7 мая в церкви святых Петра и Павлапреосвященный Иннокентий отслужил панихиду. Гроб на руках понесли к склепу, устроенному в центре фундамента строящегося храма, и поместили внутрь, прочитав последние молитвы. Вход замуровали под грохот пушечных выстрелов всех кораблей Черноморского флота, стоящих на рейде.
15 июля 1854 года архиепископ Херсонский и ТаврическийИннокентий торжественно освятил место строительства. На закладке храма присутствовали начальник штаба черноморского флота генерал-адъютант вице-адмирал Корнилов и командир Севастопольского порта вице-адмирал Станюкович. Строителем назначен архитектор М. И. Эппингер. Однако вскоре начались военные действия, и строительство приостановили. До высадки неприятеля удалось заложить фундамент и построить подвальный этаж. В первые же дни обороны адмиралы В. А. Корнилов и П. С. Нахимов высказали пожелание, чтобы в случае гибели их похоронили рядом с учителем М. П. Лазаревым. 5 октября 1854 года во время первой бомбардировки Севастополя был смертельно ранен на Малаховом кургане вице-адмирал Владимир Алексеевич Корнилов. Его последние слова звучали как завещание защитникам: «Отстаивайте же Севастополь». 7 марта 1855 года погиб контр-адмирал Владимир Иванович Истомин. Нахимов предложил похоронить его в том же склепе, где покоились Лазарев и Корнилов. Адмирал нес гроб своего боевого товарища и друга, не сменившись ни разу. После того как гроб опустили и прогремел пушечный салют, он произнес: «Есть место еще для одного, лягу хоть в ногах у своих товарищей». Адмирал Нахимов получил смертельное ранение на Малаховом кургане 28 июня 1855 года и умер, не приходя в сознание, 30 июня. «Его положили в то место, где он стоял при погребении Истомина — около того, что он сам себе готовил в твердой уверенности, что должен пасть за Севастополь». Так еще недостроенный собор стал усыпальницей прославленных адмиралов.
Вскоре Крымская война, в которой Россия потерпела поражение, закончилась. Севастополь лежал в руинах. Пострадал и строящийся Владимирский собор.
Строительство собора возобновили в 1858 году, но уже по другому проекту. Его автором стал архитектор А. А. Авдеев, в то время он жил в Севастополе и занимался возведением храма святого Николая на Братском кладбище. На прежнем фундаменте возвели однокупольный храм с использованием элементов русско-византийского стиля. Над западным входом построили звонницу, северный и южный фасады украсили треугольными фронтонами с тремя полукруглыми арками, разделенными колоннами из крымского диорита. С наружной стороны вмонтировали четыре плиты из черного мрамора с именами погибших адмиралов и датами их смерти. Нижний храм во имя святителя Николая освятили 5 октября 1881 года, верхний — во имя святого равноапостольного князя Владимира — в 1888 году.
Собор стал памятником героям севастопольской обороны 1854–1855 годов. Могилы четырех адмиралов соединили общей гробницей, представлявшей собой гигантский плоский черный мраморный крест, на четырех сторонах которого бронзой написали имена и даты смерти. Посреди гробницы сиял золотой крест, обвитый лавровым венком и окруженный надписью НИКА, что означает «побеждай». Позднее вдоль северного и южного фасада собора были захоронены: П. А. Перелешин, П. А. Карпов, М. И. Дефабр, В. П. Шмидт, И. М. Диков — участники Первой обороны Севастополя, С. П. Тыртов, Г. П. Чухнин, М. П. Саблин — командующие Черноморским флотом, И. А. Шестаков — управляющий Морским министерством в 80-е годы XIX века.
Внутреннее убранство собора отличалось торжественным великолепием. Стены облицевали темно-бордовым мрамором со светлыми прожилками, привезенным из Италии. Особенно красив был пол, сложенный из мрамора разных цветов. Работы по мрамору выполнял итальянский скульптор В. Бонани, а орнамент придумал художник Р. Изелло, он же расписал свод, арки и простенки храма. Иконы и картины священного содержания принадлежат кисти академика исторической живописи И. Б. Карнеева (1837–1896).
Верхний храм украшал дорогой и изящный киот, изготовленный на средства, собранные семьями черноморских моряков в память чудесного спасения Императорской семьи 17 октября 1888 года. Икона, написанная И. К. Айвазовским, изображала Спасителя, идущего по водам и подающего руку апостолу Петру.
Исполненные в византийском стиле ажурные двери и мраморные клиросы над входными дверями, бронзовые люстры в сочетании с остальным внутренним убранством создавали впечатление изящества и гармонии.
Церковная жизнь Свято-Владимирского собора имела свои особенности. Прихода в храме не было, поэтому все необходимые работы выполняли матросы. Богослужения проводились только по воскресеньям, в дни церковных праздников, в дни рождения и тезоименитства членов Императорской семьи, отмечались также все памятные события, связанные с Крымской войной, и важные исторические даты, служились панихиды по воинам, «за веру и Отечество живот свой положившим». На службах присутствовали командование Черноморского флота и Севастопольского гарнизона, офицеры, представители городского самоуправления, аристократы и простые жители. Дважды — 30 января 1915 года и 15 мая 1916 года — молился в соборе Император Николай II.
24 марта 1920 года главнокомандующим всеми вооруженными силами на Юге России был назначен генерал-лейтенант барон П. Н. Врангель. В этот день в Свято-Владимирском соборе прошла тожественная литургия. Среди молящихся находился и барон Врангель.
В декабре 1920 года в Севастополе окончательно установилась советская власть. Собор Святого Владимира передали православной общине в бесплатное пользование с условием не допускать политических собраний, произнесения проповедей, враждебных советской власти. Однако государственная политика постепенно меняла отношение людей к религии и церкви. Неоднократно в Свято-Владимирском соборе совершали кражи, похищали церковную утварь. Гуляющая вечерами публика портила клумбы, ломала деревья, выбивала стекла в храме. И все же Богослужения велись в нем до 1932 года, затем храм закрыли. В здании собора сначала разместили мастерские Авиационно-строительного общества, потом склад политуправления Черноморского флота.