Сквер Танкистов (ранее носил название Первомайский) назван в честь героев-танкистов, погибших в 1943 году при освобождении города Орла. В период наступательной операции «Кутузов» первыми ворвались в оккупированный город бойцы 17-ой гвардейской танковой бригады, 34-го гвардейского танкового полка прорыва, 253-го отдельного танкового полка вместе с 5-ой, 129-ой, 380-ой стрелковыми дивизиями.
5 августа город Орёл был освобождён. 6 августа 1943 года в сквере было произведено захоронение погибших танкистов. В память о героях над их братской могилой был установлен танк «Т-70», который доставили с опушки Медведевского леса. Орудие танка было направлено на Запад, где ещё предстояли бои за Родину.
В 1963 году, в сквере осуществили перепланировку. В центре сквера поставили монолит из гранита, на котором обозначили имена воинов, погибших в боях за Орел. Соорудили две стелы с картой сражения на Орловско-Курской дуге и текстом приказа Верховного Главнокомандующего о первом победном салюте в Москве в честь освобождения городов Орла и Белгорода. Установили Вечный Огонь Славы, который 5 августа 1963 года зажёг Почётный гражданин города Орла маршал И.Х. Баграмян. В 1968 году вместо танка «Т-70» был установлен танк «Т-34» как оружие боевой славы танкистов.
8 мая 1970 года у памятника танкистам был торжественно открыт круглогодичный мемориальный Пост № 1. С того времени и по сей день участниками несения почетной Вахты памяти являются юнармейцы школ города. Мемориальный комплекс, состоящий из братской могилы танкистов, погибших при освобождении города Орла и памятного знака «Танк Т-34» поставлен на государственную охрану как памятник истории федерального значения.