天水市农业科学研究所前身为1941年改建的甘肃省农林厅陇南试验场。

 1941年（民国三十年），在天水东门外路南，成立甘肃农业改进所陇南区农场，后改称农业试验场，专门从事农业试验研究工作。建国后，与天水水土保持实验区等单位合并，成立陇南人民农林试验区。

 1951年5月，改为“甘肃省人民政府农林厅陇南人民农林试验场”。

 1952年3月，农场搬迁到甘谷县头甲庄，改名甘肃省陇南农场， 1955年12月，改名为甘肃省甘谷农业试验站。

 1960年7月，甘肃省武山农业试验区站同天水县中梁何家湾国营农场（今中梁试验站）合并，成立天水农业科学研究所。所部设在中梁何家湾，后搬至天水市自治巷。下设甘谷、中梁、武都农业试验站和永宁棉花试验站。

 1961年12月15日从天水专区分出武都专区，武都试验站改名为武都专区农科所，永宁棉花试验站被撤销。

 1962年8月，天水农科所与天水农校合并，改名为天水专区农业科学研究所,所部设在天水市西郊王家磨,1966年，迁到天水市西关家属院办公,1967年，农科所搬到西团庄办公。

 1968年5月，成立农科所革命委员会。10月，农科所撤销后并入天水地区农林服务站。

 1971年4月，恢复天水地区农业科学研究所，所部设在中梁何家湾,下设甘谷、中梁和西十里试验站。

 1979年8月，农科所所部搬迁到西十里,下设办公室、研究室、政工科、生产科、中梁、甘谷、西十里试验站。

 1985年10月，天水地区改为天水市后，更名为天水市农业科学研究所，为正县级独立农业科研单位，归口天水农牧局。

 1987年2月，原市直农口各单位撤局建委，天水市农科所归口天水市农委。

 1995年4月经市编委核定编制为全额拨款正县级事业单位，核编人数155人。

 1997年市直农口各单位撤中心建局，天水市农科所归口天水市农业局。

 2006年10月经市编办审批，成立了天水市农业科学研究所科技成果示范推广中心和天水市农业科学研究所生物工程技术中心2个下属部门。全所内设政办室、科管科2个科室，下属单位5个，即中梁试验站、甘谷试验站、西十里试验站（天水市蔬菜站）、科技成果示范推广中心和生物工程技术中心。

2017年3月，经市编办审批，新增设项目监管科。

2020年12月，经市编委会研究通过《天水市农业科学研究所职能配置、内设机构和人员编制规定》，市农科所为正县级全额拨款事业单位，人员编制143名。内设办公室、党建科、科研管理科、财务科等4个职能科室和蔬菜研究中心、中药材研究中心、薯类研究中心、油料研究中心、小麦研究中心、绿色农业研究中心、农业经济信息中心等7个专业研究机构，隶属市农业农村局管理。