XIX a. paskutiniajame dešimtmetyje pastatyti kareivinių kompleksai Žaliakalnyje. Prie Ukmergės plento, tik užkilus į kalną, prie dab. Žemaičių (tada Nagornaja) gatvės, kiek toliau, Ukmergės (tada Peterburgkskoje šosse) plento ir dab. Giedraičių (tada privatus kelias) gatvės kampe pirklys Leiba Markusas pastatė kareivinių kompleksus. Visos šios kareivinės buvo medinės, karkasinės konstrukcijos, stogai dengti gontais, tik kai kurie ūkio statiniai mūriniai.

Tik pakilus ant kalno, tarp plento ir šlaito plytėjo pirmasis sklypas. Jis pailgos konfigūracijos 2400 kv. sieksnių ploto 1895 m. plane pažymėta 10 statinių (1903 m. plane – 8 pastatai). Prie plento stovėjo didžiausias 24 sieksnių ilgio kareivinių pastatas. Tai simetrinės kompozicijos, vieno aukšto su keturšlaičiu stogu, ilgas pastatas. Gatvės fasadas suskirstytas į 14 segmentų, kiekviename segmente – po langą. Fasaduose dominuoja suskirstymas segmentais, kurį pabrėžia karkaso stulpai, tarp jų fasadų plokštumos, apkaltos lentomis. Pastatas sudarytas iš dviejų dalių, kurias skiria ugniasienė. Penki kiti kareivinių pastatai dvigubai trumpesni, ilgieji jų fasadai 12 sieksnių ilgio. Sklype pažymėti kiti pastatai: virtuvė su valgykla, mūrinė kalvė, prie šlaito – rekonstruojamas namas[1].

Į rytus nuo aprašytojo, tarp Nagornaja (dab. Žemaičių) gatvės ir šlaito plytėjo didelis netaisyklingos konfigūracijos 1 dešimtinės 1220 kv. sieksnių ploto sklypas. Jame 1897 m. plane pažymėta 9 pastatai. Šiaurės vakarų pusėje jis ribojosi su unitų cerkvės sklypu. Prie šiaurės vakarinės sklypo ribos pažymėtas didžiausias pastatas – 24 sieksnių ilgio vienaaukštės medinės kareivinės su mūrine ugniasiene centre. Jis stovėjo lygiagrečiai Nagornaja gatvei. Toliau užfiksuotos dvejos mažesnio tipo kareivinės, 12 m ilgio ir pločio. Išsiskyrė didelis virtuvės-valgyklos pastatas, su mūriniais priestatais, ceikhauzas, arklidė, mūrinė kalvė ir kt.[2]

Prie kampo su būsimąja Aušros gatve, šiaurinėje Nagornaja gatvės pusėje, 1 dešimtinės 19840 kv. sieksnių ploto sklypo 1896 m. plane pietrytiniame kampe pažymėtas didelės medinės vieno aukšto su ugniasiene kareivinės, arklidės, priėmimo pastatas, raštinė, ceikhauzas, vežiminė, mūrinis žibalo sandėlis (viso 9 pastatai) tvenkinys ir vandens griovys. Sklypo šiaurinėje dalyje didoką plotą užėmė vaismedžių sodas ir daržas[3].

Ketvirtasis kariuomenės sklypas buvo tuometinio Ukmergės (Peterburgskoje šosse) plento šiaurės vakarų pusėje, netoli kelio į 9-tąją bateriją.(dab. A.Mackevičiaus g.) 1903 m. plane šiame nedideliame 375 kv. sieksnių sklype pažymėta: vienos kareivinės, virtuvė su valgykla, mūriniai ceikhauzas ir prausykla, išeinamoji vieta, malkinė. Ukmergės plento atkarpoje prie sklypo, plane užfiksuoti du keturkampiai šuliniai[4].

Kareivinių pastatas stambus, medinis, karkasinės konstrukcijos dviejų aukštų, su keturšlaičiu stogu. Laiptinė į antrąjį aukštą buvo įrengta išorėję. Gatvės fasadas buvo suskaidytas 10 langų angomis. Aukštai atskirti profiliuotu karnizu, fasadų plokštumos apkaltos lentelėmis. Šių kareivinių tūris, plano struktūra skyrėsi nuo kitų Žaliakalnyje statytų kelių tipų vienaaukščių kareivinių, tačiau pati karkasinė konstrukcija ir fasadų sprendimas iš esmės liko analogiški. Viduje buvo kelios didelės patalpos, centre išsidėstė krosnys ir kaminai. Viduje perdenginius rėmė mediniai stulpai[5]. (Šiame brėžinyje yra pateikta tikroji pastato būklė 1903 m., nes pirklys L. Markusas visas savo statytas kareivines buvo užstatęs bankui, o šie brėžiniai yra iš banko bylų). Pastate kareivinės buvo iki Kauno tvirtovės žlugimo. 1920 m. jis perėjo Kauno miesto žinion. 1920-1926 m. jame buvo įsikūrę kariuomenės įstaigos: Karo milicijos mokykla, Kauno komendantūros įstaigos, 3-čiasis pėstininkų pulkas. 1926 m. jame įsteigta pigių butų kolonija. Tada pastato vidinė erdvė buvo suskirstyta į daug kambarėlių, palikus viduje platų koridorių. 1934 m. čia veikė nakvynės namai, 1935-1958 m. - pradinė mokykla, 1961-1989 m. – vakarinė-pamaininė mokykla. 1993 m. birželio 1 d. įkurta Žaliakalnio pradinė mokykla. Pastatas Savanorių pr. 91 – vienintelės išlikusios medinės XIX a. pabaigoje statytos kareivinės su pagalbiniais statiniais Kaune. Kareivinių pastatas registruotas LR Nekilnojamųjų kultūros registre.

Dar toliau į šiaurės rytus, prie Ukmergės plento ir privataus kelio (dab. Giedraičių g.) 1903 m., taip pat L. Markuso statytų kareivinių sklype parodyti 9 pastatai: trejos medinės kareivinės, kareivių arbatinė, virtuvė ir valgykla, prausykla, ceikhauzas, malkinė, išeinamoji vieta, šulinys. Šio sklypo plotas nurodomas 1561,03 kv. sieksniai. Pietvakarių pusėje greta praeina privatus kelias (dab. Giedraičių g.). Pietų ir rytų pusėje sklypas ribojosi su privačiais sklypais[6]. Nei vienas šio komplekso statinys neišliko.

Archyviniuose dokumentuose rasti duomenys, jog Kauno gubernijos inžinierius Nikolajus Andrejevas sudarinėjo Žaliakalnio kareivinių projektus[7].

XIX a. pabaigoje Peterburgo plento ir būsimos Giedraičių g. kampe pastatytas daboklės pastatas. Jis pažymėtas tvirtovės planuose. Tai dviaukštis raudonų plytų, pastatas, kuriame tarpukaryje taip pat buvo įsikūrusi daboklė, policija, po Antrojo pasaulinio karo pastatas perėjo tuometinei milicijai, jame veikė blaivykla, dabar – policijos nuovada. Pastatas išplėstas, jo pirminis vaizdas gerokai pakeistas, sunaikintas greta buvęs rūsys.