目標是以「生物學法則」統治臺灣

1898年，當時的陸軍中將兒玉源太郎成為臺灣總督後，拔擢後藤為自己的輔佐，擔任民政長官。據聞拔擢之際，後藤對著兒玉談論自己統治臺灣的基本理念時曾言：「比目魚眼睛長得不甚美觀，卻也無法變成鯛魚的眼睛。因為對於比目魚而言，那是最好的樣態，才會有如此長相」，而「臺灣的習俗與制度與生物特性相同，皆有其相應之理與必要性才形成慣習，若恣意變更，勢必引起大反彈，因此必須詳實調查臺灣現況，依循現況實施統治，方為良策。」兒玉因這一番言論，給予後藤完全的信賴。

兒玉源太郎（國立國會圖書館）
兒玉源太郎（國立國會圖書館）

其後，兒玉見到日俄戰爭陷入膠著苦鬥，雖辭去兼任的內務大臣一職，並未辭任臺灣總督，他認為只要「後藤在就沒問題」，便離開臺灣，就任陸軍參謀本部次長。後藤亦不負總督信賴，發揮其行政長才。首先對於臺灣的調查事業，組成「臨時臺灣舊慣調查會」，自任會長，徹底實施調查工作，同時更召集學者研究清朝的法律制度。熟悉現場狀況後，秉持著自論的「生物學法則」強力推動經濟改革與基礎建設。

第一要務是撲滅傳染疾病。第3任總督乃木希典的母親，渡海來臺未久，便因罹患瘧疾而去世。後藤認為盡快撲滅臺北街市的傳染病為當務之急。除了將獨佔潔淨飲用水的財閥水井開放給一般民眾使用之外，同時再次委託巴爾頓和他的學生濱野進行上下水道的建設工程。巴爾頓視察臺北街市狀況之後，發現衛生情況相當惡劣，甚至向後藤表示：「此地須先破壞才能建設。」後藤認為若要防止傳染病蔓延，當務之急是推動上下水道的基礎建設。巴爾頓與濱野鋪設了基隆、臺北、接著進軍臺南，最後完成臺灣全島的上下水道工程。