醫院建于1960年，建院48年以來，經過幾代玉中人的艱苦創業和不懈努力，如今已發展成為一所技術力量雄厚、醫療設備先進的集醫療、預防、保健、教學、科研為一體的大型綜合性二級甲等醫院。承擔著玉山縣56萬人口及周邊縣市群眾的醫療保健任務。
醫院堅持以人為本、以病人為中心、以群眾滿意為標準，全面加強院政管理。在提高醫療技術、改進醫療服務的同時，注重職業道德的培養和建設，已形成了“科學、嚴謹、團結、奉獻”的玉中精神。近年來，先后榮獲了“江西省群眾滿意醫院”、“江西省示范中醫院”、“全省中醫工作先進集體”、“‘十五’期間中醫工作先進集體”、“上饒市十佳醫院”、“江西省群眾滿意醫院”、“上饒市文明單位“、“全市衛生系統先進集體”的光榮稱號，并被確認為“江西中醫學院第七附屬醫院”。

隨著醫院醫療事業不斷發展和提升，現有的醫療場所不能滿足廣大人民群眾的需求，經2007年7月6日縣政府常務會議決定玉山中醫院整體搬遷，選址為：玉京路東側、柳州北路西側、博士西大道北側與冰溪鎮中學擬選址相接的地塊，用地面積41600平方米（62.4畝）。2007年11月30日，縣規劃委員會第16次會議通過總體規劃設計方案，整個遷建工程分二期進行，第一期工程建筑面積32110平方米，其中地面28382平方米，門診醫技樓三層9162平方米，住院大樓7層18320平方米，內二病區385平方米，后勤用房515平方米，**室3728平方米，預計投資6000萬元。2008年12月動工，工期3年，該項工程列為玉山縣2008年十大重點工程之一2010年醫院建院50周年實行整體搬遷。
現在中醫院遷建工程已基本完成，2011年年底前完成醫院整體搬遷工程