Своё название Зеленая улица получила от самого основателя города – графа М.С. Воронцова. В дневнике В.К.Крыжановского от 23 марта 1863 года есть запись: «Названа графом Воронцовым и написана на городском плане его рукой по просьбе моей в то время, когда утверждался план… Был уже мой дом на этой улице и акации зеленели в домашнем садике, а ровно и на других дворах. Вот причина названия Зеленой улицы». 28 сентября 1921 года улица была переименована в Красную («за потоки пролитой крови в революционное время»). А до этого около пяти лет носила имя А.П.Чехова.

В самом начале улицы, с правой её стороны, стояло двухэтажное здание, выходившее центральным входом на Биржевой проспект (пр. Труда). Принадлежало здание негоциантам Тубино, и размещалась в нем восьмиклассная женская гимназия Элеоноры Николаевны Саханевой. Открытая в 1902 году гимназия просуществовала до 1919 года.

Левую сторону Зеленой улицы открывает здание под № 3, дом этот был семейным особняком нотариуса В.Г.Ольшанского, на первом этаже располагалась контора, а второй занимала его семья. А в начале 1920-х годов ХХ века в нем размещались уездные комитеты партии и комсомола.

В глубине улицы стоит здание с интересной архитектурой, однако нет никаких сведений о его первоначальном предназначении. В доме № 4 находилась строительная и техническая контора братьев Лоренцо и Иосифа Тубино. В 20-е годы ХХ ст. здесь находились милиция и паспортный стол.

На углу с Азовским проспектом (пр. Ленина) находится здание, в котором размещались кинотеатр «Гигант» и гостиница «Марсель» (позже переименованная в «Гранд-Отель») (см. статью Азовский проспект). Во втором квартале улицы Зеленой сохранилось здание караимской кенассы. 

Необычный дом в глубине двора не сохранил о себе никиках сведений. Двухэтажное здание № 18 построенное в 1865 году, принадлежало оно В.Э.Гаевскому, а размещалась в нем уездная управа. Земство находилось здесь вплоть до 1918 года. 12 декабря 1920 года в этом доме находился «опорный пункт красных партизан против банды Махно». В этом здании несколько смельчаков оказали отчаянное сопротивление одному из отрядов Махно, несмотря на жестокий обстрел из пулемётов и пушки.

Через дорогу находится дом № 21, в котором во второй половине XIX столетия проживала семья Владимира Эразмовича Гаевского – исполнявшего обязанности городского головы, председателя и предводителя уездного дворянства. Двухэтажное здание № 36 принадлежало судье Зайцеву (ныне здесь находится городской суд). Дом № 39 принадлежал врачу Лейбову. Здание № 40 не сохранило имени своего первого владельца. В здании № 43 жил купец Еременко.

В доме № 49, построенном в 1914 году, в разное время проживали священнослужители Вознесенского собора, последним из них был протоирей Александр Лукин.

Привлекают своим архитектурным своеобразием и дома № 57, 70, 92, однако сведений об их хозяевах не сохранилось. Многое изменилось с тех давних пор, но тихая и тенистая улица и сейчас привлекает нас своими красивыми зданиями, напоминая о своем историческом прошлом.

В первом плане города эта улица называлась Пустая, а во втором она была названа Лазаревской. В 1921 году улица была переименована в Горбенко, так как на ней проживали члены І Бердянского Совета Зоя и Александр Горбенко. На улице Лазаревской проживали в основном простые люди, мещане, как например в домах № 10, №19 и №22. Домом № 20 владел врач-венеролог Манькин.

Наибольшее внимание на этой улице привлекает комплекс сооружений Евангелическо-Лютеранской кирхи (церкви). В этот комплекс входят церковь, училище и сторожка. Строительство комплекса было завершено в 1903 году. Первым пастором в ней был Георг Рат. В годы Великой Отечественной войны церковь и училище пострадали от пожара, и их архитектурный вид изменился при реконструкции. Церковь перестала функционировать. После войны весь комплекс зданий отдали под школу № 3, в которой преподавание всех предметов велось на украинском языке.

Архитектурной особенностью отличаются дома № 35, №42, №58, №61, и №71, но никаких сведений об их владельцах не сохранилось. Лазаревская улица сохранила до наших дней поистине прекрасные образцы архитектурных сооружений ХІХ века, однако, к сожалению, нам ничего не известно о тех людях которые проживали в этих дома, ходили по этой улице много-много лет назад.