农村金融服务是世界性难题，尤其是在我们这样一个发展中大国，人多、地少、农地经营规模狭小、发展不平衡，搞好“三农”金融服务，更为艰巨，也更有挑战性。党的十六大以来，农业银行始终致力于加强和改善“三农”金融服务，特别是近五年来，农业银行按照党中央要求，不断摸索，初步走出了一条面向“三农”和商业运作有机结合的新路子。截至2012年9月，农行涉农贷款余额1.
85万亿，比年初增加1900余亿，增速11.42%，高于农业银行全行贷款增速1. 32个百分点，比2007年增长了123%。
因农民居住分散，风险承受能力较弱且缺乏有效抵押物，长期以来，农民既难以从金融机构获取贷款，也难以享受便利的现代金融服务。为有效解决这一难题，农行专门推出了集储蓄、汇兑结算和小额贷款等多种功能于一体的“金穗惠农卡”和以电子服务渠道建设为主要内容的农村金融服务网络建设“惠农通”工程。截至2012年9月，农行已累计发放惠农卡1.22亿张，覆盖全国1亿余农户，覆盖率超过40%；发放农户小额贷款1051亿元，全行全口径农户贷款余额近4000亿元。同时，设立金穗“惠农通”工程服务点54.3万个，设立助农取款服务点23.6万个，布放电子机具107万台，电子机具对全国乡镇、行政村的覆盖率分别达77%、52%。依托金穗“惠农通”工程，在1043个县代理新农保、688个县代理新农合项目（合计占全国有农业人口县市区旗的50%），代理粮食直补、家电下乡补贴、农村低保等惠农项目417个，累计归集资金1402亿元、发放1076亿元，做到了“卡到户、机到村、钱到账”，让农民“足不出村”就可以享受到便捷的基础金融服务。
农业银行积极发挥农村金融骨干和支柱作用，持续加大对农田水利等基础设施建设、农业产业化发展和农业科技进步的金融支持力度。在农田水利方面，农业银行以支持大型水利项目、江河治理、小型农田水利和新型节水高效农业等重点领域，不断加大信贷投入，截至2012年9月末，农业银行农田水利建设贷款余额达700余亿元。在农业产业化方面，农业银行以产业化龙头企业为重点，授信2300余亿元支持龙头企业扩大生产和升级技术，用信余额达1600余亿元；农行金融服务对国家级、省级农业产业化龙头企业的服务覆盖分别达到918家、4602家，覆盖率分别达73.2%和52.2%。在农业科技方面，农业银行通过加大产品服务创新力度，大力支持农业科技创新与发展，截至2012年9月末，农业银行已为全国244户农业科技企业提供信贷支持，授信总额97.49亿元，贷款余额68.12亿元；已与全部65家国家级农业科技园区建立合作关系，农业银行支持的国家农业科技园区入驻龙头企业超过4500家，推广应用新技术超过5400项、新品种超过8000个。
在支持城镇化方面，适应农村城镇化大趋势，农业银行大力实施“千百工程”，在全国重点支持千家国家级农业产业化龙头企业、500个县（市）城镇化建设、千所优质县级综合医院、百个国家级农业科技园区等，并创新农村城镇化贷款等产品，大力支持小城镇基础设施建设和农民进城。截至2012年9月末，农行农村城镇化金融服务覆盖了全国50%以上的县域，贷款余额5120亿元，比2009年增长了120%。农行北京分行创新“城乡一体化综合贷款”，推动首都城中村改造建设，已累计向17个重点村发放贷款逾180亿元。在支持新农村建设方面，农业银行围绕农村基础设施和民生工程等领域的金融需求，以农村电网、道路、住房、环境建设等为重点，积极加大信贷投放，目前，农行农村基础设施贷款余额2500多亿元。福建分行开办了新农村住房建设项目贷款和新农村个人住房贷款等产品，贷款余额约70亿元。
为确保有专门的机构、专门的人员、专门的资源专心致志服务“三农”，农业银行对“三农”和县域业务实行事业部制的管理模式。在事业部内部实行“六个单独”的运行机制，即单独的资本管理、单独的信贷政策、单独的会计核算、单独的风险拨备、单独的资金平衡、单独的考评激励等，在相关业务资源配置上向“三农”倾斜。目前，事业部改革各项工作取得了重要进展，事业部组织体系和治理机制日趋成熟，条线化的管理关系不断理顺，“六个单独”的运营机制也逐步健全。总体看，事业部改革积极效应初步显现，县域发展资源保障进一步增强。