Rond het jaar 900 werd er in Rolde de eerste kerk gesticht. Eerst een houten kerk, die rond 1200 werd vervangen door een Romaanse kerk van baksteeen. In het eerste kwart van de 15e eeuw werd deze kerk vervangen door de huidige gotische kerk. De inwijding was waarschijnlijk in 1428. De verbouwing in 1854 heeft de harmonie van het gebouw sterk verstoord; dit is hersteld bij de verbouwing van 1960-1964, waarbij de kerk werd teruggebracht in de staat zoals bij de bouw in 1427.
Deze kerk wordt sinds de jaren zestig van de 20e eeuw door alle christenen gebruikt. Op zondag door hervormden en gereformeerden, tegenwoordig samen de ‘Protestantse Jacobuskerkgemeente’, op zaterdagavond door rooms-katholieken. Daarnaast zijn er ook oecumenische vieringen en vesperdiensten.