如果说有哪一位改教家为教会教义所引起的问题而挣扎时，那一定是加尔文了。他对教会理论的第一次主要探讨，可见于1539年的《基督教要义》第二版。虽然加尔文的《基督教要义》初版（1536）处理过这课题，当时他却几乎没有任何管理教会或相关责任的经验，因此造成了他的讨论奇怪地不清晰的现象。到了本书第二版时，加尔文已经对新的福音派教会所面对的问题，获得较多经验。

教会的两个记号

对于加尔文来说，真教会的记号（mark）在于应该宣讲上帝的话语，以及正确地实施圣礼。由于罗马天主教会甚至没有符合教会的这个最简单定义，福音派阵营离开它是完全正确的。至于作为遵照这个教会定义的福音派教会，就没有合理理由进一步使自己分裂了。这一点相当重要，反映了加尔文的政治判断，就是福音派教会会众的更多分裂，对于宗教改革运动的目标是一场灾难。加尔文列出这些原则的文献，值得仔细研读：

无论在哪里，我们若发现神的道被人纯正宣讲和聆听，而且圣礼也按照基督的吩咐施行，毫无疑问，那里就有了上帝的教会。因为他的应许是不会落空的——“无论在哪里，有两三个人奉我的名聚会，那里就有我在他们中间”（马太福音18：20）。……倘若有职事能持守圣道并尊重它，并有圣礼施行，就毫无疑问地当被称为教会。……在哪里有人虔敬倾听圣道，而圣礼也未被忽略，在那里就不会有虚假和形式含混的教会；对于这个教会，无人能藐视它的威权，拒绝它的规劝，违抗它的训导，或轻视它的指责，更不能脱离它，分裂它。……当我们说，圣道的纯净职事和庆祝圣礼的纯净方式是一个充分的誓言和保证，借此我们可以承认任何群体为一间教会，我们的意思是哪里有这些记号并存，它就不可以被拒绝，即使它在其他层面上充满缺点。

请留意加尔文如何识别两个元素对一间基督教会是基要的，而同时表明在其他范围中的弹性。

到了1543年，加尔文已经获得相当多承担教会责任的经验，特别是他在斯特拉斯堡期间。布塞作为斯特拉斯堡宗教改革运动背后的思想动力，拥有十分超卓的教会行政名声，而加尔文后期的教会理论，可能反映了布塞的个人影响。牧师、博士（或教师）、长老和执事的“四重职分”（fourfold office），它的起源可以追溯至布塞，他也区分了可见的教会与不可见的教会。然而，布塞认为教会的纪律是教会的一个基本特征［技术上是一个“记号”（nota）或“标记”］，却没有得到加尔文的共鸣。虽然加尔文在《基督教要义》1536年版中在教会的“确实记号”中有“生命的榜样”一段，后期的版本却着重于上帝话语的恰当讲授，以及圣礼的施行。纪律强调了教会的经络——基督的拯救教义，却建立了它的心脏和灵魂。

加尔文主张，圣经有具体的方向，指引有形教会中的正确职事秩序，以致教会秩序的独特形式，现在成了教义的一部分。换句话说，他在“纯净地宣讲的福音”之内，包括了一种独特形式的教会行政建制（而他从俗世政权的圈子借用了administratio一词）。

教会的外在行政的重要性，已经同时在改革派圈子中得到承认。在苏黎世制定的《第一海尔维第信条》（1536）强调，教会是由某些外在的记号所区分的：

所有圣徒团契和会众都是基督的新妇和配偶，是他用他的血洗净，最后无瑕无疵地呈献给父的。虽然基督的这教会和会众只是被上帝的眼目所开启和知晓，然而它不只被知晓，也由可见的记号、礼节和仪式所连结和建立的，那是基督自己由上帝的话语所制定和任命，作为普世、公开和有条理的纪律。若是没有这些记号（一般的说，不需上帝启示的特殊允许），就没有人可以被算作是属于这教会的。

加尔文对教会的极简化定义，现在有了一个新的意义。真教会是在福音被正确传扬，以及圣礼被正确施行的地方找到的——而且认为在这个定义中所包括的，是教会建制和行政的一个独特形式。加尔文称之为“上主愿意他的教会被管理的秩序”，并且基于他对新约的解经而发展了一套教会管理的详细理论，广泛地建基于罗马帝国行政的用语。有别于极端派的声称，加尔文强调教会的结构和行政的独特形式是圣经规定的。故此，加尔文认为教会的牧职管理是神圣的任命，区分为“牧师”、“长老”、“执事”和“信徒”。

加尔文论教会的角色

首先，为什么需要教会（那是指一个建制而不是一座建筑物）？正如上帝在历史的进程中借着道成肉身救赎人类，他也在同一进程中使他们成圣——借着建立一个委身那目标的建制。上帝使用某些肯定是属地的方式施行他对所拣选者的拯救；虽然他绝对不是受制于这些方式，他却通常在它们中间工作。故此教会被确定为一个神圣地建立的身体，在其中上帝让他的子民成圣。正如加尔文所说的：

我将要从讨论教会开始，上帝的旨意是要将他的一切儿女聚集在教会的怀抱中，不但是叫他们在婴儿和幼年时期，由它的扶助和事工得着养育，且由它母亲般的关顾得着引导，直到他们长大成人，至终达到信仰的目标。因为“上帝所配合的，人不可分开”（马可福音10：9）。凡以上帝为父亲的，便以教会为他们的母亲。

加尔文借着引用迦太基的西普里安的两段伟大的教会论格言，确定这个对教会的崇高教义： “你不可能有上帝成为你的父亲，除非你有教会成为你的母亲”，以及“在教会之外是没有罪得赦免或任何拯救的盼望的”。

加尔文的教会教义提醒我们，把改教家描绘成狂暴的极端个人主义者，缺乏基督徒生活的群体概念，这是极其不当的。正如我们已经看到的，主流的宗教改革圣经诠释，根本缺乏其批评者所投射于它身上的个人主义；同样的情况也适用于宗教改革运动对基督徒生活的理解。“教会是母亲”的形象（那是加尔文欣喜地从迦太基的西普里安借用的）强调了基督教信仰的群体层面。请留意加尔文如何强调它的重要性。

让我们从“母亲”这个词学习，认识她是多么有用（事实上是多么有需要）。没有其他得着生命的道路，除非这位母亲在她的子宫中孕育我们，在她的胸脯中喂养我们，并且让我们保管在她的关顾和引导之下。

强而有力的神学意象紧贴在这种说话的方式中，在其中首要是上帝的话语把我们孕育在教会的子宫中。不过，这种对教会的思考方式，其实际层面才是我们该注意之重点。教会的建制是一个必须、有用、上帝赐予和上帝命定的属灵成长和发展的媒介。

加尔文在可见与不可见的教会之间作出了重要的区分。一方面，教会是基督教信徒的群体，是一个可见的团体。然而那也是圣徒的团契与蒙拣选者的群体——一个不可见的存在实体（entity）。在它不可见的层面中，教会是蒙拣选者的不可见聚集，只有上帝晓得；在它的可见的层面上，它是在地上信徒的群体。前者只是包括蒙拣选者，后者包括了好人与坏人、蒙拣选者与邪恶者。前者是信心与盼望的对象，后者是现今的经验。加尔文强调，由于那不可见的教会（基督的真正身体），所有信徒要荣耀并一直委身于可见的教会，即使它有软弱。虽然如此，却只有一个教会，一个单一的存在实体，是由耶稣基督作它的头。

在可见与不可见的教会之间的差异，可以有两个重要的结果。首先，预期可见的教会将会包括蒙拣选者和被遗弃者。希波的奥古斯丁提出这一点针对多纳徒派，运用了稗子的比喻（马太福音13：24—31）作为他的基础。若要分辨他们之间的差异，那是超越了人类的能力，把人类的素质与上帝的喜悦相互关联（无论如何，加尔文的预定教义排除了以此为基础的拣选）。然而，其次，需要问的是，众多可见的教会有什么是相应于不可见的教会的。因此，加尔文承认有必要去清晰表达客观的标准，让某一教会的当权者可以据此判断。两个这样的标准被规定下来： “当我们看见上帝的话语被完全讲授和聆听，并且圣礼按照基督的设定而被施行，我们就不可以怀疑一所教会的存在。”故此，那不是由于它的成员的素质，而是恩典的公认媒介的存在，构成了一所真教会。有趣的是，加尔文没有跟随布塞，以纪律作为真教会的一个记号；虽然加尔文热心关注教会成员的恩慈纪律（charitable discipline）的需要，他却没有认为这对一间教会凭据的定义或衡量是基本的。