Na položaj državnega sekretarja je bil imenovan januarja 1989, funkcijo pa je opravljal do avgusta 1992, ko se je preselil v Belo hišo, kjer je prevzel delo šefa kabineta.
Baker sicer velja za enega najtesnejših sodelavcev dinastije Bush. Leta 2000, ko so se ameriške predsedniške volitve na Floridi končale s katastrofalnim preštevanjem glasov, je vodil ekipo pravnih svetovalcev Busha mlajšega.