Selon la définition de North, qui fait largement autorité, les institutions permettent de réduire l'incertitude inhérente aux relations humaines. Elles sont vécues comme les « contraintes établies par les hommes qui structurent les interactions humaines. Elles se composent de contraintes formelles (comme les règles, les lois, les constitutions), de contraintes informelles (comme des normes de comportement, des conventions, des codes de conduite auto-imposés) et des caractéristiques de leur application » (D.C. North, 1994, p. 361). Cette définition a le mérite de catégoriser les institutions en créant 2 types dans lesquels peuvent se retrouver de nombreux chercheurs : que l'on songe par exemple à la typologie du contrôle social (formel et informel). Si nous définissons la croissance économique comme le résultat d'une synthèse cohérente des comportements individuels, le lien avec les institutions est manifeste. Nous obtenons alors la séquence suivante :
Incertitude => Cadre institutionnel => Comportements => Croissance économique
Le problème, à partir de là, c'est que les institutions ne sont pas nécessairement efficientes. Elles peuvent conduire à la croissance comme à la stagnation. En ce sens, la croissance ne va pas de soi, ce qui constitue l'une des interrogations majeures de l'économie institutionnelle. Que le cadre institutionnel implique des règles juridiques et des règles sociales ne doit pas surprendre.
En ce qui concerne les règles formelles nous pouvons nous référer au rôle du système formel de propriété (privée) chez Hernando de Soto. Celui-ci se fonde sur des données édifiantes. La valeur totale de l'immobilier des pays du tiers monde et de l'ancien bloc communiste hors des circuits légaux représenterait 9 300 milliards de dollars en 1997, soit plus de 20 fois le montant total des ivnestissements directs étrangers dans le tiers-monde et les ex-pays communistes entre 1989 et 1999. Le capital y correspond à du capital mort, enfermé dans l'économie informelle. Nous comprenons alors qu'il devienne urgent d'instaurer des infrastructures juridiques pour donner « vie » à ces richesses. « En Occident, tout bien – tout terrain, toute maison, toute valeur mobilière – est formellement fixé dans des enregistrements tenus à jour et conformes aux règles du régime de propriété. Tout supplément de production, tout nouvel immeuble, produit ou objet ayant une valeur commerciale appartient formellement à quelqu'un », p. 60. Tout un ensemble de mécanismes et de procédures qui nous paraissent évidents sont à construire dans les pays en développement. Mais leur situation est finalement comparable à celle des Etats-Unis du XIXe siècle qui ont fini par entériner les appropriations sauvages des pionniers.
En ce qui concerne le rôle des institutions informelles, il suffit de dire que la croissance implique des mutations importantes, au minimum sectorielles, et n'est pas isolable du changement social. Comme le note Pierre Maillet (1979, p. 67), « [l]e prix de la croissance est aussi une acceptation du changement ». Que faire si les populations préfèrent la plage et le soleil au travail ? Les préférences de la population doivent être compatibles avec les exigences d'une croissance soutenue. Autre exemple : la défense de la réputation liée à la défense de l'honneur a pu jouer à une certaine époque un rôle majeur. « Dans l'Angleterre du XIXe siècle, l'actif le plus important d'un homme d'affaire fut certainement sa réputation comme « gentleman » même s'il n'était pas un gentleman de naissance ou par son activité », (Joel Mokyr, 2008, p. 17). La réputation, la confiance, font partie de toutes ces caractéristiques toujours actuelles qui favorisent les contrats, autorisent des relations de long terme favorables à la croissance économique. En langage économique, nous dirions qu'elles permettent de réduire les coûts de transaction, c'est-à-dire les coûts associés à l'organisation et au respect des contrats.
Puisque les institutions renvoient à un cadre large, certaines risquent de ne pas pouvoir être changées rapidement et d'entrer en contradiction avec d'autres. Aussi n'est-il pas inintéressant de définir les institutions selon leur pesanteur sociale. C'est l'exercice auquel se livre par exemple Oliver E. Williamson qui identifie 4 types d'institutions selon leur fréquence de changement, renvoyant à 4 ordres théoriques. Au niveau le plus bas interviennent lesarrangements marginaux associés aux prix, quantités, etc. Ceux-ci sont continus et très bien expliqués par la théorie néo-classique. Ensuite interviennent les structures de gouvernance jouant sur la contractualisation des relations et pouvant durer plusieurs années. A un niveau supérieur encore, c'est l'environnement institutionnel qui est en cause et en particulier les institutions formelles au sens de North. Celles-ci jouissent d'une certaine pesanteur pouvant aller jusqu'au siècle. Enfin au niveau ultime nous trouvons les institutions informelles qui n'ont pas de finalité calculée et qui relèvent d'une théorie de la société. Ce sont les institutions les plus difficiles à changer puisqu'elles peuvent durer plusieurs siècles2. Dans une voie similaire à celle de Williamson, Gérard Roland distingue les institutions qui peuvent changer rapidement (fast-moving institutions) de celles qui ne le peuvent pas (slow-moving institutions). Nous retrouvons alors toujours la même logique. Les normes sociales ont plus de pesanteur que les lois par exemple qui peuvent être changées en une nuit.
Notons enfin que les institutions peuvent aussi se distinguer selon leur mode d'apparition. Par exemple Karl Menger opposera institutions organiques (qui émanent spontanément des activités humaines) et institutions pragmatiques (créées par les hommes afin d'atteindre certains objectifs). Friedrich Hayek s'appuiera sur cette distinction pour distinguer l'ordre spontané (kosmos) de l'ordre construit (taxis). A ses yeux seul l'ordre spontané (marché,common law) est conforme au libéralisme. L'ordre spontané repose sur l'auto-organisation et n'est pas coordonné de manière consciente. Hayek avouera quand même que certaines décisions peuvent mener à des impasses et nécessitent l'action délibérée et consciente de la législation.
Ce bref panorama nous montre que les institutions, vu leur étendue, risquent effectivement d'avoir un rôle à jouer sur la croissance. Comme l'indique Bernard Chavance (2001, p. 85) : « Outre le langage, la morale, la religion la famille, la monnaie, la propriété, le marché, celle-ci [la définition des institutions] recouvre, selon les auteurs, les conventions sociales, les coutumes, les habitudes, les routines, les règlements particuliers à une organisation, les règles légales, les contrats, les constitutions, les traités, les ordres, mais aussi les associations, la hiérarchie, l'entreprise, les organisations syndicales, patronales, professionnelles, les églises, les universités, les partis politiques, le gouvernement, les administrations, les tribunaux, l'Etat, les organisations internationales ». Mais n'est-ce pas prétendre, avec un ordre d'idées aussi large, que tout détermine tout et donc qu'il n'est plus possible d'expliquer quoi que ce soit ? Ne revenons-nous pas à prétendre qu'au final la cause de la croissance doit être trouvée dans la société elle-même, ce qui est fondamentalement tautologique ? Cette limite inhérente va à son tour se répercuter sur la nature des institutions. Sont-elles des causes agissantes ou le résultat du phénomène de croissance ? L'utilisation des tests économétriques apparaîtra alors comme une nécessité méthodologique.