Никольский храм строился как госпитальный храм Азовской флотилии (впоследствии ставшей Черноморским флотом). Причем строился по плану застройки гавани, утвержденным в Адмиралтейств-коллегии (г. Санкт-Петербург). И именно в Адмиралтейств-коллегии было настоятельно рекомендовано строить храм, а не часовню, как предлагали на месте. То есть храм можно считать Адмиралтейским. В связи с тем, что гавань находилась в крепости, и план ее застройки соотносился с застройкой крепости, то так как вновь построенный Никольский храм оказался больше крепостного Архангело-Михайловского, то было принято решение использовать Никольский храм как соборный.

В октябре 1777 года в Адмиралтейств-коллегию уходит рапорт от командующего Азовской флотилией контр-адмирала Клокачева о, том что церковь находится в большой степени готовности и с предложением: для экономии средств отлит церковный колокол из негодных медных трофейных турецких пушек, скопившихся в крепости. 

Скорее всего, орудия были складированы на территории крепости еще во время войны 1735-1739 гг. после занятия графом Минихом крепости Очаков, где было взято более 100 медных пушек. В рапорте предлагалось отлить колокол на заводах в Бахмутском уезде. Отлили колокол с изображением небесных покровителей моряков – святого Николая и святого Фоки, стоящего на луне в молитвенном положении: с поднятыми к небу глазами и сложенными на груди руками. Вес колокола составил около 150 пудов (2450 кг). На поверхности колокола сохранился едва различимый фрагмент надписи, выполненной вязью при его отливке: «Сей колокол… вылит… Святого Николая Чудотворца в Таганро… из турецкой артиллерии весом… пудов 1778 года месяца августа… числа».

С 1788 года мы можем говорить о Никольском морском соборе города Таганрога - первом на Юге России, так как Таганрог это первая крепость-гавань. Херсон, Керчь, Севастополь, Николаев строились уже позже, причем по отработанному на Таганроге плану. Такое положение было действительным до 1820 года, когда Никольский собор был передан в ведомство Синода и ему определили статус храма. Ранее в 1803 году в Севастополь был перевезен колокол, ныне это туманный колокол на мысе Херсонес. Связано это было с перебазированием флотилии и ее преобразованием в Черноморский флот. Здесь важно отметить преемственность – колокол был передан Никольскому собору г. Севастополя.

В 1845 году к храму была пристроена 3-ярусная кирпичная колокольня во имя святой великомученицы Параскевы, была благоустроена прилегающая территория. Позже к приделу была пристроена трапезная. В архитектурно-художественном отношении здание представляет собой типичную приходскую церковь, выстроенную по классическим канонам. Колокольня выполнена с деталями в стиле ампир.

Во время Крымской войны 1855-1856 годов, 20 мая 1855 года в Таганрогский залив вошла вражеская эскадра. 22 мая Таганрог подвергся артиллерийскому обстрелу; с кораблей противника по городу было выпущено около 10 тысяч разрывных и зажигательных бомб, боевых пороховых ракет, гранат и картечи. Свидетельством этой бомбардировки являются два ядра, застрявшие в южной стене Никольского храма.

В 1860-х годах храм потребовал ремонта и расширения. Известный русский архитектор Н.В. Трусов составил проект нового декоративного фасада, пристройки трапезной части к колокольне и ее расширения путем боковых пристроек, который был утвержден в 1866 году. Проект, из-за недостатка средств, был реализован частично, после чего храм приобрел современный вид, а именно была пристроена трапезная часть к колокольне и частично отреставрирован фасад.

На 1913 год храм числится как трехпрестольный: «один – во имя Св. Николая и под колокольнею два: первый – во имя св. муч. Параскевы, нареченной Пятницы и второй – во имя Рождества Иоанна Предтечи».

В 1920-х-1930-х годах в Никольском храме была кафедра епископа Иосифа (Чернова), хотя на тот момент упоминание о соборе не встречается. При этом храм являлся центром сопротивления обновленческому движению в городе Таганроге. В отличие от 1942-1943 года, когда будучи в оккупации епископ Иосиф (Чернов), будущий митрополит Алама-Атинский, как викарий Ростовской епархии снова организовал в городе кафедру. Тогда и появляются упоминания о Никольском кафедральном соборе. В послевоенное время вплоть до закрытия в связи с отсутствием кафедры снова упоминается о Никольском храме.

Во время Великой Отечественной войны деревянная церковь полностью сгорела. В эпоху хрущёвских гонений на Церковь храм подвергся практически полному разрушению. В 1962 году верхние ярусы колокольни были взорваны.
На церковной территории поочерёдно располагались теннисный корт, конюшня, гаражи и автомастерская, деревообрабатывающий цех…

В 1984 году Северо-Кавказским филиалом проектного института по реставрации памятников истории и культуры в рамках проектного предложения по застройке бывшей Троицкой крепости был разработан проект реставрации Никольского храма, по которому в храме предполагалось размещение музея военно-морского флота.
Несмотря на то, что проект по застройке бывшей Троицкой крепости не был реализован, проект реставрации храма был осуществлен в том виде, который предполагал не богослужебную, а выставочную деятельность. Согласно проекту восточная часть храмового здания, расположенная на месте сгоревшей в 1942 году деревянной церкви, была разделена на множество помещений под музейные экспозиции.
В 1989 году, храм передали Церкви, освятили и в нем начались богослужения. С 1992 г. храм охраняется как памятник истории и культуры местного значения. Работы по проекту реставрации с восстановлением колокольни и возведением нового здания с восточной стороны завершились в 1995 году.
Храмовый комплекс воссоздан благодаря усилиям настоятеля Никольского храма с 1989 по 2014 годы протоиерея Александра Клюнкова и городских властей.

В 1999 году состоялось прославление святого Павла Таганрогского в лике местночтимых святых, а его честные мощи были перенесены в Никольский храм. Крестный ход с его мощами со Старого кладбища в храм проходил через центральные улицы в сопровождении тысяч верующих. Во время торжественного прославления произошло чудесное знамение в виде гало вокруг солнца.
В феврале 2016 года определением Освященного Архиерейского Собора Русского Православной Церкви состоялось общецерковное прославление Павла Таганрогского в лике праведных. Работу по общецерковной канонизации праведного Павла Таганрогского подготовил настоятель храма с 2014 по 2023 годы протоиерей Алексей Лысиков.
Общецерковное прославление старца Павла сделало храм одним из центров духовной и культурной жизни не только города, но и всего Донского края, так как праведный Павел Таганрогский - первый прославленный святой подвижник на Юге России.

Обилие находящихся в храме святынь вызывает благоговейный трепет у всех православных таганрожцев. Это, в первую очередь, святые мощи праведного Павла Таганрогского, которые покоятся в позолоченной раке, образ святителя Николая Чудотворца с частицей его мощей, икона святого адмирала Феодора Ушакова с частицей мощей, списки с чудотворных икон Божией Матери «Всецарица», «Неупиваемая Чаша», и многих других почитаемых образов.

Храм стал центром духовности и религиозного образования. При нём действует воскресная школа для детей и взрослых, открылся музей культуры и истории Приазовья.