История учреждения началась 1 сентября 1963 года, когда на месте нынешней гимназии была открыта восьмилетняя школа № 16 с продленным днем обучения, единственная в Чебоксарах, на 960 посадочных мест. В 1967-1968 учебном году восьмилетняя школа преобразована в среднюю школу № 16. В 1994 году переименована в среднюю общеобразовательную школу – гимназию № 16; с 2000 года – в МОУ «Гимназия № 2», с сентября 2011 – МБОУ «Гимназия № 2» г. Чебоксары.