醫院始建于1952年，前身為安徽省第六康復醫院(俗稱三康醫院)。1954年5月正式收治病員，收治對象為志愿軍、解放軍。當時醫院有工作人員297人，設有門診部及內、外、五官、口腔、助產、針灸、理療X光室等科室。
1956年8月更名為安徽省慢性病醫院。
1957年12月成立安徽省立第三醫院。
1958年8月，省衛生廳決定將省立第三醫院下放巢縣，正式更名為“巢縣人民醫院”。
1984年1月，縣級巢湖市成立，更名為“巢湖市人民醫院”。
1995年3月，被安徽省衛生廳授予“二級甲等綜合性醫院”。
1999年7月，巢湖撤地設市，醫院整體上劃，更名為“巢湖市第二人民醫院（正縣級）”。
2011年8月，隨著行政區劃調整，醫院為合肥市衛生局所屬巢湖第二人民醫院。
2013年12月，醫院參加公立醫院改革，實施藥品零差率管理
2013年醫院參加合肥市二級甲等醫院復核評審工作，2014年4月16日接到合肥市衛生局通知，經市級專家組評審并經省衛生廳核準，醫院順利通過二級甲等醫院復審考核。
2014年7月23日，根據合肥市人民政府合政秘【2014】121號文件精神，醫院更名為合肥市第八人民醫院，增掛巢湖市人民醫院牌子，巢湖市中醫院牌子保留至該院
醫院位于巢湖市中心區，全院占地面積5萬平方米，建筑面積4萬平方米，現有床位編制1000張，設有門診部和住院部兩大區域。設有15個病區，32個臨床一、二級學科，10個醫技科室，擁有德國西門子1.5T磁共振（含類PET功能）、64層螺旋CT機、DR、DSA、數字平板胃腸機、美國GE全身彩超（含心臟專用彩超）、數字乳腺鉬靶、肺功能、腦電、肌電、動態心電、血壓，血透機（含CRRT），快速冰凍切片機，腹腔鏡、膽道鏡、前列腺汽化電切鏡等系列腔鏡，羅氏化學發光儀、全自動酶免分析系統、全自動微生物培養鑒定系統等高新進口醫療設備。4870平方米門診樓和16500平方米的現代化住院大樓，聳立在城中央并成為標志建筑。總建筑面積16406㎡的醫技樓已經投入使用。
醫院現有在職人員1010人，具有高級職稱61人，中級職稱326人，碩士研究生18人，在職碩士研究生48人、博士研究生1人。巢湖中青年學科帶頭人2名，省專科護士12人。
成功開展了心臟病介入診療(冠狀動脈造影、永久起搏器安裝)、鼻竇鏡、纖維咽喉鏡、腹腔鏡、ERCP、輸尿管鏡、氣壓彈道碎石、經皮腎鏡、前列腺氣化電切、宮腔鏡、陰道鏡和關節鏡等系列微創手術。
以人為本、科技領先、用心服務、追求卓越是我們的辦院方針；成為特色鮮明的省內知名醫院；成為群眾首選的最值得信賴的醫院是我們的愿景；團結、奉獻、創新、攀登是我們的院訓；內強素質、外塑形象、誠信服務、質量取勝是我們的競爭理念；認真去做只能合格、用心去做才能優秀；思路決定出路、細節決定成敗是我們的工作理念；以病人需求為中心，救死扶傷，盡職盡責是我們的服務宗旨。
醫院現為安徽醫科大學、皖南醫學院、安徽中醫藥大學、合肥職業技術學院教學醫院，巢湖市醫療保險定點單位，設有120急救分中心、中國初級衛生保健基金會健康扶貧工程“宮頸癌篩查基地”。與華中科技大學附屬協和醫院建立技術管理培訓基地，并加入安徽省立醫院網絡醫院。
醫院長期堅持科教興院，人才強院的發展戰略，經過不斷發展，醫院在兒科、神經內科等一批重點學科的基礎上，心內科、普外腔鏡手術、泌尿外科、ICU、婦產科、內分泌科、康復醫學科、麻醉科、肛腸科、中醫科等學科發展迅速，成為該院特色及在當地有影響力的學科。
醫院曾先后獲得安徽省文明醫院、安徽省防治“非典”工作先進集體、安徽省衛生先進單位、合肥市文明單位。
