Xivadagi mashhur, hali hanuz jahon ahlini lol etib kelayotgan   Toshhovli saroyi 1829-1839 yillarda Olloqulixonning    amri bilan vazir Muhammad Ya’qub mehtar loyihasi asosida qurilgan. Bu saroy Xivadagi ikkinchi Ark, hukmdor – xonning  qasri sifatida qurilgan. Pishgan g‘ishtlardan qurilgan Tosh hovlining  nomi binoning o‘ziga xos plani va arxitekturasidan kelib chiqqan. Qadimda binolar xom loy va karkas (cho‘bin) yog‘ochdan qurilgani uchun umri qisqa edi. Keyinchalik g‘ishtni xumbuzlarda pishirib, toshdan imoratlar qurila boshlangan. Shuning uchun ularni bir-biridan ajratish uchun nomlar paydo bo‘lib, “Tosh” so‘zi ko‘p imoratlarga qo‘yiladigan bo‘lgan. Masalan, Tosh kent, Tosh hovuz,   tosh masjid.  
Tosh hovli   saroyi uchta katta   va beshta kichik hovli,   ikki qavatli ayvon va xonalardan iborat. Dastlab haram, so‘ngra mehmonxona, keyinchalik arzxona hovlilari bitkazilgan. Haramda xonning oilasi yashagan bo‘lsa, mehmonxona chetdan kelgan elchi, turkman sardori va qoraqalpoq biylari kabi ulug‘ mehmonlarga xizmat qilgan. Arzxonada fuqoraning arzi-dodi tinglansa, xorijdan kelgan elchilar rasman shu erda qabul qilingan.