Первые археологические экспонаты Таганрогский городской музей получил в 1903 году из Санкт-Петербурга в дар от Императорской Археологической комиссии.

В музее работали такие известные учёные-археологи, как братья Александр и Михаил Миллеры (1920-1930-е гг.), И.С. Каменецкий (1950-е гг.), П.И. Борисковский и Н.Д. Праслов (1960-е гг.), В.С Флёров (1970-е гг.). В последней четверти XХ века фонд «Археологические памятники» пополнился коллекциями таких авторов, как П.А Ларенок, Т.А Прохорова, Н.И Ромащенко, А.В., Цыбрий, В.В. Цыбрий и др.

Большая часть коллекции фонда представлена находками из раскопок памятников каменного века. Палеолитические и неолитические коллекции (100-7 тыс. лет назад) являются наиболее полными для Юга России. Материалы этих коллекций отражают процесс становления человека современного типа и пути заселения древнейшими людьми Приазовья и Восточно-Европейской равнины. Находки из раскопок курганов в Северо-Восточном Приазовье, в районе междуречья Маныча и Сала, раскрывают особенности заселения кочевых обществ в III-II тыс. до н.э. Находки из курганных захоронений Неклиновского, Матвеево-Курганского и Куйбышевского районов отражают развитие земледельческо-скотоводческих хозяйств в эпоху бронзового века. Фонд располагает лепными, орнаментированными сосудами ямной, срубной и катакомбной культур, находками из кости, бронзы и камня.

Жемчужиной археологической коллекции являются материалы из сборов разных лет и раскопок первого десятилетия XXI века остатков древнегреческого поселения (предположительно, колонии Кремны) VII-VI вв. до н.э. у Каменной лестницы. Это уникальные материалы, освещающие колонизацию Северо-Восточного Приазовья малоазийскими греками. В 2010 году завершена полевая часть большого совместного проекта Берлинского института археологии, Института археологии РАН и Донского археологического общества по раскопкам греческого Таганрогского поселения, проводившихся с 2004 года.

Находки из раскопок Нижне-Гниловского городища и Танаиса отражают начало изучения самого Танаиса, как самого северного торжища варваров и его сельской округи, населённой меотами.

Сарматские древности представлены в коллекции фонда двумя яркими погребальными комплексами: кургана у хутора Красный Кут и находками из Кобяковского курганного могильника I-II вв.

Находки из раскопок курганов у хутора Семёнкин Волгодонского района отражают раннюю историю заселения Нижнего Дона и Приазовья савроматами.

Раскопки на Семикаракорском городище рассказывают об истории народов, входивших в состав Хазарского каганата в VIII-X вв.

Фонд располагает находками XI-XIII вв. с поселения Куричи, свидетельствующими о древнерусской колонизации Северо-Восточного Приазовья.

История Золотой Орды может быть раскрыта на материалах кочевнического могильника у хутора Семёнкин и находках из отдельных курганов на территории Неклиновского, Матвеево-Курганского и Цимлянского районов.

В каменных изваяниях VIII-XII вв., расположенных во дворе Историко-краеведческого музея, отражена культура кочевых племён Северо-Восточного Приазовья.