烏魯木齊市水務局成立于1976年1月26日，當時為烏魯木齊市水利電力局，機關內設辦公室、政治處、業務科、計財勞資科。核定人員定編30名。1978年10月，成立了烏魯木齊市鉆井隊；1979年成立了烏魯木齊市柴窩堡漁場；1980年2月成立了烏魯木齊市水利專業施工隊；1981年10月成立了市河灘管理所。烏魯木齊市水利電力局下設8個單位，其中事業單位5個，分別為：烏魯木齊市水利勘測設計隊、烏魯木齊市河灘管理所、烏魯木齊市河道管理處、烏魯木齊市柴窩堡漁場和烏魯木齊市水產養殖場；企業單位3個，分別為：烏魯木齊市水利專業施工隊、烏魯木齊市鉆井隊和烏魯木齊市水電物資供應站。

1984年1月，烏魯木齊市水利電力局更名為烏魯木齊市水利資源管理委員會，為烏魯木齊市人民政府37個工作部門之一，核定行政編制26名，機關內設辦公室、政治處、業務處、計財處和水產處（水產處于1990年3月撤銷）。1985年9月烏魯木齊市水利專業施工隊、烏魯木齊市鉆井隊合并為烏魯木齊市水利勘測建筑工程公司。1994年6月15日，烏魯木齊市水利資源管理委員會機關增設水土保持處、綜合經營管理處、水政水資源管理處。1996年6月7日，烏魯木齊市水利勘探建筑公司經市政府批準解散，對職工進行分流。

1997年12月11日，烏魯木齊市水利資源管理委員會更名為烏魯木齊市水利局。機關內設處室：辦公室、政治處、水保處、工灌處。烏魯木齊市水利局下設8個單位，分別為：烏河管理處、柴窩堡湖管理處、市河道管理處、市水政水資源監察隊、防洪辦、市水利勘測設計研究院、市水產養殖廠和萬利洋物資公司。

2002年4月，在全市的機構改革中，烏魯木齊市水利局被撤銷，組建為烏魯木齊市水務局，將原烏魯木齊市市政工程管理局下屬的4家涉水單位劃歸烏魯木齊市水務局管理。新增4家單位為：市自來水公司、市河東污水處理廠、市排水管理處、市計劃節約用水管理辦公室。機關下設8個處室，即辦公室、政治處、紀檢監察室、工程項目建設管理處、水資源管理處、農林水牧處（水土保持處）、政策法規處及規劃計劃財務處。2003年，市水務局下屬單位柴窩堡湖管理處劃歸柴窩堡湖管委會管理；萬利洋物資公司、水產養殖廠及市水利勘測設計研究院先后完成了改制工作，與市水務局脫離了行政隸屬關系。2003年，經市編制委員會同意，先后成立了市水務工程項目辦公室（水務工程招投標辦公室）、市水務工程質量監督站，并將市水政水資源監察隊、市河道管理處及烏魯木齊河管理處的水政大隊撤銷，新組建市水務監察支隊。2005年，市自來水公司、烏河管理處及河東污水處理廠、市排水管理處先后完成了改制工作，與市水務局脫離了行政隸屬關系。改制后，市水務局共有5家下屬單位，副縣級單位1家，即市水務監察支隊（事業單位，行政編制）；科級事業單位4家，分別為市計劃節約用水辦公室、市防洪辦、市水務工程項目管理辦公室、市水務工程質量監督站。2006年，經市機構編制委員會批復，市水務局撤銷了規劃計劃財務處，新設規劃計劃處、財務處。

2007年2月，新疆水磨河流域管理處由自治區水利廳交由市水務局管理。

2018年9月，設立烏魯木齊市河湖管理中心，隸屬烏魯木齊市水務局管理。

2019年1月，根據《烏魯木齊市機構改革實施方案》精神，將市屬相關單位、市防洪抗旱總指揮部的相關職責整合，組建市應急管理局，不再保留市防洪抗旱總指揮部。2019年4月，撤銷烏魯木齊市石仁子溝水庫管理站，連人帶編移交相關市轄區管理。2019年12月，烏魯木齊市水務工程項目辦公室（水務工程招標投標管理辦公室）更名為烏魯木齊市水務工程建設管理中心；烏魯木齊市計劃節約用水辦公室更名為烏魯木齊市水資源管理中心（計劃節約用水管理中心）；將烏魯木齊市水務工程建設建設質量監督站并入烏魯木齊市水務監察支隊；設立烏魯木河分洪工程管理站。2020年10月，新疆水磨河流域管理處完成經營類事業單位改革工作，其生產經營性職能并入烏魯木齊水業集團，整合其公益性職能和水利管理職能，成立烏魯木齊市水管總站。

截至目前，烏魯木齊市水務局下設6個事業單位：烏魯木齊市水務監察支隊、烏魯木齊市水資源管理中心（市計劃節約用水管理中心）、烏魯木齊市水務工程建設管理中心、烏魯木齊市河湖管理中心、烏魯木齊河分洪工程管理站、烏魯木齊市水管總站。