Druga gimnazija u Zenici započela je s radom kao Učiteljska škola 1994. godine. Učiteljsku školu završile su tri generacije učenika, a posljednja je izašla školske 1999./2000. godine. Od 1997. godine, škola je transformirana u Pedagošku gimnaziju s namjerom da se školuju učenici koji će svoje naklonosti i sposobnosti dalje razvijati na pedagoškim fakultetima.

Reformom obrazovanja od 2008. škola se preimenuje u JU Druga gimnazija u Zenici. Druga gimnazija od samog početka nema svoju zgradu.

No, bez obzira na taj veliki problem ni skučenost ne spriječava njene učenike da nižu dobre rezultate i da škola bude okićena zavidnim uspjehom.