小川的臺語辭典獲得讚賞

從在學時期開始，小川便對臺灣這塊新領土的語言感到興趣，曾想實地考察那是何種語言，這便是他前往臺灣總督府就職的理由。

小川首先選出日常使用的6500個日語詞彙，譯為臺語。除了編製教科書之外，同時也蒐集足以表達日語的臺語詞彙，製作數量龐大的對譯紀錄。1898年，小川完成日本首部臺語辭典『日臺小辭典』，由臺灣總督府出版發行。這部辭典厚達315頁，以五十音順序的日語表記出臺語的發音與漢字。學務課將小川的稿件委託給總督府國語學校的吉島俊明教授進行校正，更經過小川的前任上司，也就是總督府學務課顧問的伊澤修二修訂增補之後才告定案，首次送付印刷，在編輯製作上非常謹慎細心。

日本首部臺語辭典喚起了巨大的迴響。小川任職於學務課僅僅1年半，便翻譯了6500個臺語詞彙，讓後藤新平為首的總督府幹部都驚歎不已。雖然受到眾人認可，覺得「關於臺語的事情就問小川」，但是他並未就此滿足，繼續研究更好的表記方式。各界多方使用『日臺小辭典』，獲得讚賞的同時，眾人也希望能有辭典可以收錄更加豐富的語彙並分門別類。

『日臺小辭典』問世的6年後，亦即在1904年，杉房之助所編纂的『日臺新辭典』由日本物產合資會社出版發行。因此，小川便決意編纂易於使用且依照類別表記的辭典。後藤新平請託當時的日本總理伊藤博文為這部辭典題字，由臺灣總督府出版發行，該辭典名為『日臺大辭典』。

這部辭典的構成從「臺灣語言分佈圖」、「臺語數量詞比較表」與「序言」開始，其後為「臺語發音」、「凡例」與「日臺大辭典」。辭典亦附有「筆劃順日臺字音便覽」、「百家姓」、「臺灣地名」、「舊臺灣度量衡 附錄貨幣・時間」與「對於血緣親戚的稱謂」等項目。最後是小川撰寫的「本書編纂始末」。