Istorizmo stilistikos Žemosios Panemunės dvaro sodybos fragmentų rūmai (unikalus kodas Kultūros vertybių registre 38851), nors ir įsikūrę įspūdingoje kalvoto reljefo Nemuno kairiojo kranto viršutinės terasos krašte, tačiau ilgą laiką buvo užmarštyje. Konsultuojami Kultūros paveldo departamento, naujieji dvaro savininkai kreipėsi į specialistus dėl tyrimų atlikimo ir patys ėmėsi neatidėliotinų rūmų tvarkymo darbų.
Š. m. kovo mėnesį architektės Dalios Laurinaitienės atliktuose Žemosios Panemunės dvaro sodybos fragmentų rūmų istoriniuose-architektūriniuose tyrimuose užfiksuota, kad pastato būklė avarinė: visiškai suiręs dviaukštės dalies stogas ir perdanga, vienaukštės dalies stogo danga pažeista, vanduo bėga į vidų, ardo pastato konstrukcijas, bei apdailą, mūras pažeistas atmosferos kritulių, bei kapiliarinės drėgmės, todėl būtina skubiai imtis stabilizuojančių situaciją priemonių.
Tyrimuose taip pat pažymima, kad tai buvę dideli prabangūs rūmai, su atviromis galerijomis šiauriniame fasade, pirmame ir antrame aukšte. Iš šių galerijų atsiverdavo įspūdingas vaizdas į Nemuno slėnį. Antrame aukšte, centrinėje rūmų dalyje, tikėtina, buvo pobūvių salė, į ją turėjo vesti vieni arba dveji pagrindiniai laiptai iš pirmo aukšto vestibiulio.
Šiuo metu atlikti pirminiai teritorijos ir dvaro rūmų priežiūros darbai: išvežtos teritorijoje buvusios šiukšlės ir statybinis laužas, pasėta ir prižiūrima veja, visoje teritorijoje ir šalia esančiame nuostabiame sode šienaujama žolė. Taip pat nuo statybinio laužo išvalyta dalis rūmų patalpų, kitų dvaro teritorijoje esančių pastatų vidus. Vietoje sudužusių stiklų sudėti nauji, paramstytos kritinės būklės perdangos ir užsandarintas stogas, pridengtos dekoruotos sienos apsaugant išlikusius puošybos elementus.
Tai kol kas tik priežiūros darbai, nereikalaujantys didelių finansinių išteklių, tačiau rodantys, kad naujieji šeimininkai dės visas pastangas atkurti buvusių rūmų ir kitų pastatų puošnumą. Ateityje bus ieškoma finansinių galimybių restauruoti rūmus ir, šeimininkų teigimu, pakviesti čia atvykti visus besidominčius kultūra ir amatais, bei pasigrožėti nuostabia gamtine aplinka.
Dvaras paminėtas dar 1676-1677 m., kai Raseinių seniūnas J. Chžastovskis pardavė Žemąją Panemunę LDK raštininkui A. K. Gelgaudui. Dvaras ėjo iš rankų į rankas ir priklausė garsioms didikų giminėms: Tiškevičiams, Fergisams, Zanams. 1923 m. neišparceliuotą dvaro centrą nusipirko žurnalistas Valentinas Gustainis (1896-1971). Dalis dvaro priklausė ir jo broliui, ūkininkui Antanui Gustainiui. V. Gustainis redagavo „Lietuvos Aidą“.
Vėliau dirbo žurnalistu ir diplomatu Lenkijoje. 1940 m. jį ištrėmė į Sibirą, o dvarą nacionalizavo. Pokario metais pastatuose buvo įkurta ligoninė. 1990 m. dvaro teritorijoje buvo atlikti archeologiniai tyrinėjimai, kurių metu buvo nustatyta, kad teritorijoje susiklostė kultūrinis sluoksnis, kurį galima datuoti XIV-XVII a. Tai gyvenvietės ar dvarvietės kultūrinis sluoksnis.
