S rozkvětem přírodních a technických věd začal v šedesátých letech minulého století vzrůstat zájem veřejnosti o studium reálného typu. Protože dosavadní školy nestačily, Zemská školní rada Království českého podala žádost na c.k. ministerstvo kultu a vyučování ve Vídni, aby v Praze byly založeny dvě nové střední školy reálného směru, jedna německá a jedna česká. Tuto žádost přijel do Prahy osobně prověřit sám ministr kultu a vyučování, jímž roku 1871 v kabinetu hraběte Hohenwarta výjimečně byl (ale jen tři čtvrtě roku) český literární historik Josef Jireček, pozdější předseda Královské české společnosti nauk. Podle jím navrženého federativního systému měla tehdy školská správa v českých zemích přejít pod pravomoc zemských úřadů.
Ministr Jireček začátkem října 1871 navštívil v Praze českou i německou vyšší reálku, které obě trpěly neúnosně vysokým počtem studentů, a ještě v Praze vydal povolení založit nové německé čtyřtřídní reálné gymnázium. Na naléhání zemského školního inspektora pro české střední školství Josefa Vebra pak dodatečně povolil i reálné gymnázium české. Stalo se tak v posledních dnech Jirečkova působení ve funkci rakouského ministra školství, protože krátce nato Hohenwarthova vláda odstoupila. Jirečkův telegram došel 7. října 1871 a toto datum se považuje za den založení prvního státního reálného gymnázia.
Reálné gymnázium, toto spojení reálky a klasického gymnázia, ovšem v minulém století vypadalo jinak než dnes. Bylo jen nižší střední školou, která představovala jednotný základ vyššího vzdělávání jak v humanitním, tak v reálném směru. Mohlo mít jen čtyři nižší třídy, v nichž se žáci společně připravovali jak pro vyšší klasické gymnázium, tak pro reálku. Ale už od tercie se dělilo na dvě oddělení na humanitní, v němž se učilo řečtině, a na reální, kde se studovala francouzština, rýsování a krasopis. Latinu měli všichni studenti společně už od kvarty.
Když se pak na nové škole naplnily čtyři nižší třídy, rozhodlo rakouské ministerstvo, že škola bude ve vyšších třídách pokračovat jako běžné klasické gymnázium. V roce 1875 proto dostala nový název Císařsko-královské české reálné a vyšší gymnázium v Praze.
První budovou, kde byl 29. října 1871 zahájen první školní rok, se stal soukromý dům č. 17 na staroměstské straně Eliščiny (dnes Revoluční) třídy. Ale hned v příštím školním roce 1872-73 se nové reálné gymnázium z nevyhovujících prostor přestěhovalo do jiného objektu, jímž byl rozlehlý průchodní dům č. 24 (popisné 72/II) U Šmerhovských na rohu Spálené a Vladislavovy ulice, který patřil České vzájemné pojišťovně a v němž byl domovníkem otec známého vlasteneckého novináře Josefa Baráka. Gymnázium však nebylo umístěno v průčelním traktu, ale v třípatrové nádvorní budově, která byla velmi tmavá a která později byla při přestavbě úřadoven pojišťovny zbourána. Přes všechny nevýhody tu gymnázium vydrželo téměř čtvrt století. Jeho představitelé sice nejednou usilovali o stavbu nové budovy, ale dlouho neměli úspěch. Jejich sen se splnil teprve na začátku devadesátých let minulého století, kdy bylo o stavbě nové školní budovy konečně rozhodnuto. Za staveniště bylo vybráno místo proti pivovaru U Fleků v Křemencově ulici. Stavba rychle pokračovala a školní rok 1894/95, už dvacátý čtvrtý v dějinách gymnázia, mohl být zahájen v nové školní budově.
Sedmnáct let se v nové budově vyučovalo podle dosavadních předpisů, až konečně od školního rohu 1911/12 se škola začalo postupně měnit na osmitřídní reálné gymnázium. Dostala také nový název C.K. české reálné gymnázium v Křemencově ulici, který se pak po první světové válce a po vzniku československého státu obešel bez prvních dvou písmen.
Od školního roku 1922/23 byla opět zavedena dvě různá oddělení, humanitní a reální, ale tentokrát až na vyšším gymnáziu. Od kvinty si studenti mohli vybrat buď klasické zaměření s řečtinou a povinnou francouzštinou anebo reální směr s deskriptivou. Od téhož roku se ústav oficiálně jmenoval První české státní reálné gymnázium v Praze II. Profesorský sbor později požádal, aby ústav mohl nést jméno prvního československého prezidenta T. G. Masaryka. Žádosti bylo vyhověno a v den 80. narozenin prezidenta Osvoboditele, 7. března 1930, byl ústav slavnostně přejmenován na Masarykovo I. státní reálné gymnázium v Praze II. Tohoto názvu pak, s výjimkou německé okupace, užíval až do svého zrušení v roce 1949.
Od začátku třicátých let platily na československých středních školách nové osnovy. Prima a sekunda měly na všech druzích gymnázií společný základ, latině se na reálných gymnasiích začalo učit od tercie a francouzštině nebo angličtině od kvinty. V septimě se studenti mohli rozhodnout buď pro deskriptivní geometrii nebo pro konverzaci v některém světovém jazyce. Potřeba rozšířené výuky přírodopisu a fyziky se řešila nepovinnými praktiky.
S příchodem německých okupantů a s vytvořením protektorátu Čechy a Morava v roce 1939 se dosavadní učební osnovy pronikavě změnily. Omezilo se vyučování českému jazyku, dějinám českých zemí a zeměpisu Československa a místo toho se rozšířil počet vyučovacích hodin německého jazyka. V posledních letech války se některé předměty vyučovaly německy, jako např. "deutsche Erkunde" nebo "deutsches Rechnen". Ředitel ústavu dr. František Šišma a s ním někteří členové profesorského sboru se ocitli v nacistických koncentračních táborech. Ve škole bylo nařízeno zdravit tzv. árijským pozdravem, tj. žáci měli profesora při příchodu do třídy pozdravit vztyčením pravice, to byl tzv. velký árijský pozdrav, a profesor jim měl odpovědět pozvednutím pravé dlaně k rameni (malý árijský pozdrav), což se obyčejně rovnalo pokynu třídě k usednutí.
Bylo nařízeno přísně dodržovat zatemnění a v suterénu musely být provedeny nezbytné stavební úpravy. Všechna sklepní okna byla obezděna cihlovými předprsněmi a na zdi byly namalovány velké bílé šipky s nápisem "Luftschutzraum" protiletecký kryt. Při vyhlášení leteckých poplachů se vyučování přerušovalo a studenti byli za dozoru svých profesorů odváděni do sklepení, kde měla každá třída vyhrazené místo. Když se koncem války přiblížila linie fronty a letecké poplachy byly stále četnější, pravidelné vyučování bylo v polovině dubna 1945 ukončeno a studenti si jen jednou za týden či za čtrnáct dní chodili do školy pro úkoly.
Po květnové revoluci a po osvobození Československa v roce 1945 nemohlo být pravidelné vyučování hned zahájeno, protože školní budova byla využívána pro vojenské účely. Zčásti sloužila jako lazaret, zčásti v ní byli ubytováni francouzští i jiní zajatci. Vyučování bylo obnoveno až ve druhé polovině května, ale zato trvalo až do poloviny července 1945.
Doba okupace však přece v něčem znamenala pro gymnázium přínos. Protože české vysoké školy byly 17. listopadu 1939 zavřeny, univerzitní profesoři a jiní vysokoškolští učitelé přešli na střední školy, pokud tam mohla být jejich specializace využita. Byli většinou velmi oblíbeni, protože dovedli pro svůj obor vzbudit hluboký zájem studentů, kteří se tak stali jejich nejmladšími posluchači.
Po skončení druhé světové války však už byly gymnáziu dopřány jen čtyři roky života. Zpočátku se rychle odstraňovaly nedostatky způsobené válkou a okupací. Přestalo se vyučovat němčině a místo ní nastoupila ruština, do té doby téměř neznámá. Gymnázium se začalo od tercie znovu dělit na dvě větve základní směr s latinou a na technický směr bez latiny. Rozšířil se počet hodin češtiny a zaplňovaly se mezery ve znalostech českých dějin a zeměpisu. Aby se odstranila podvýživa žactva zaviněná válečnými léty, studenti začali v prvním poválečném roce dostávat k přesnídávce mléko a sušenky z dodávek organizace UNRRA. Z koncentračního tábora se vrátil ředitel ústavu dr. Šišma a znovu se ujal svého úřadu. Na podzim 1946 oslavil ústav tři čtvrtě století svého trvání, ale své 75. narozeniny dlouho nepřežil Po komunistickém puči v únoru 1948 byly možnosti jeho dalšího svobodného vývoje silně omezeny. Ředitel dr. Šišma byl jako "buržoazní intelektuál" znovu zbaven své funkce a vedení školy převzal samozvaný akční výbor řízený členy komunistické strany, do jejichž řad pohotově vstoupili někteří profesoři i žáci ústavu. Zároveň byl z politických důvodů vyloučen první žák pozdější "prezidentův vězeň", známý spisovatel a televizní komentátor Vladimír Škutina. Mnoho dobrých žáků dostalo takové kádrové posudky, že se na vysoké školy nedostali. Řada studentů řešila situaci emigrací.
Vynucený "ideový přerod" školy však nepostupoval tak rychle, jak to noví nositelé moci očekávali. Po marných pokusech změnit tento stav se dospělo k názoru, že ústav pro své zakořeněné demokratické tradice není požadované přeměny schopen, a proto byl v červenci 1949 spolu se šestnácti jinými pražskými středními školami zrušen. Jeho knihovna, sbírky, archiv a ostatní inventář byly odvezeny do gymnázií v Truhlářské a Slovenské ulici i jinam a žáci byli přeřazeni do středních škol podle svého bydliště. Budova připadla československé armádě a byla přidělena pro užívání Armádnímu uměleckému souboru Víta Nejedlého. Téměř osmdesátiletá existence slavné střední školy svobodného ducha tím byla definitivně ukončena.