Han blev utnämnd till kansler 1506 under Svante Nilsson och var dennes och hans efterträdares Sten Sture den yngres främste rådgivare. Han blev 1510 kyrkoherde i Stockholm och 1515 utsedd till dekan i Västerås stift.
När Kristian II besegrade Sten Sture d.y. våren 1520, hade dennes åttaårige son Nils Stensson Sture förts i säkerhet till Gdańsk med kanslern Peder Jakobsson som följeslagare. Peder Jakobsson försökte sedan få hjälp från den polske kungen och de preussiska handelsstäderna mot Kristian II. Peder Jakobsson, som var en av få gamla stureanhängare från den inre kretsen som Kristian inte avrättat, anslöt sig sedan till Gustav Vasas uppror.
Gustav Vasa hade under upproret mot Kristian II betecknat sig som en efterföljare till Sturarna. Peder Jakobsson deltog liksom andra stureanhängare i Gustav Vasas uppror.
Peder Jakobsson blev utnämnd till biskop i Västerås 1523 och blev också medlem i riksrådet. Efter intåget i Stockholm vid midsommar 1523 höll Peder Jakobsson ett hyllningstal till Gustav Vasa i Storkyrkan. Han blev tämligen omgående relativt ensam som gammal Stureanhängare och som följeslagare från upproret bland kungens män, då Gustav Vasa utsåg män som i det längsta varit Kristians medlöpare till sina rådgivare. Då Peders förtrogne Knut Mikaelsson, kallad Mäster Knut, enhälligt blev vald till ärkebiskop sommaren 1523, motsatte sig Gustav Vasa valet och ärkebiskopen fick avsäga sig värdigheten. I stället beordrades domkapitlet att välja Johannes Magnus, som precis återvänt från Rom för att som påvlig legat bekämpa den spirande lutherdomen.
Peder Jakobsson gav uttryck för sitt missnöje i några brev till sina vänner. Breven blev uppsnappade av kungen, som såg till att avsätta honom som biskop i Västerås.
Tillsammans med Knut Mikaelsson startade han i Dalarna vintern 1524-1525 en hätsk agitation mot Gustav Vasa, se dalupproren. Agitationen gjorde dock inget större intryck förutom i några bondsocknar i norra Dalarna. Under sommaren 1525 flydde han till Norge, men återvände efter några månader till Sverige med löfte om fri lejd.
Gustav Vasa bröt dock sitt lejdlöfte och ställde Peder Jakobsson inför rätta. Rättegången mot herr Peder hölls i Uppsala, och slutade med att han avrättades den 18 februari 1527.