解析：
第一步，本题考查立法法。
第二步，《立法法》第82条规定，省、自治区、直辖市和设区的市、自治州的人民政府，可以根据法律、行政法规和本省、自治区、直辖市的地方性法规，制定规章。由此可知，乌鲁木齐市人民政府有权制定地方政府规章。
因此，选择B选项。
拓展
《立法法》第72条规定，自治区、直辖市的人民代表大会及其常务委员会根据本行政区域的具体情况和实际需要，在不同宪法、法律、行政法规相抵触的前提下，可以制定地方性法规。设区的市的人民代表大会及其常务委员会根据本市的具体情况和实际需要，在不同宪法、法律、行政法规和本省、自治区的地方性法规相抵触的前提下，可以对城乡建设与管理、环境保护、历史文化保护等方面的事项制定地方性法规，法律对设区的市制定地方性法规的事项另有规定的，从其规定。由此可知，库尔勒市属于不设区的市，其人大常委会无权制定地方性法规，其人民政府无权制定地方政府规章，A项排除；新疆维吾尔自治区人大常委会可以制定地方性法规，但无权制定地方政府规章，C项排除；新疆维吾尔自治区财政厅无权制定地方政府规章，D项排除。
