Будівлю на вулиці Мар’їнській №12 було зведено в 1901-1904 роках за проєктом архітектора Б.М. Корнієнко. У 1901-1907рр. тут розташовувалася школа для прикажчиків, пізніше будівлю було об’єднано прибудовою, з колишнім будинком баронеси А. С. Унгерн-Штенберг.
У довоєнні роки тут розташовувалась середня школа № 37. У 1941 році, під час відступу німецьких військ, будівлю підірвали, але незабаром відбудували за тим самим планом. У 1963 році у Харкові була створена перша фізико-математична школа, яка й розташувалась у цій будівлі. Ініціаторами відкриття школи були кореспондент Академії наук УРСР, професор ХДУ Н. І. Ахієзер і доцент, а в майбутньому також професор, Ю. В. Гандель. Першим директором школи був Іван Федотович Бульба.
У 1964 році в школі почала працювати бібліотека.
Бібліотека ліцею розташована, на першому поверсі і займає дві кімнати, площею близько 100 м². В одній кімнаті знаходиться абонемент і читальний зал, а в другій - книгосховище.
В ліцеї видається газета "Вісник ліцею".
Бібліотека обслуговує більш ніж 700 читачів: учнів, батьків, вчителів, співробітників ліцею.