Le premier et le plus célèbre défi au rationalisme est qu'il promettait plus de certitude que les êtres humains ne pouvaient honnêtement revendiquer. L'Essai sur l'entendement humain de John Locke, publié en 1690, constitue la contre-déclaration décisive de l'époque moderne. Locke ne nie pas que la raison compte ; il nie que nous naissions avec des idées innées ou que l'esprit possède des connaissances substantielles avant l'expérience. L'esprit, dit-il, commence comme une tabula rasa, une ardoise vierge. Les idées entrent par la sensation et la réflexion, et la connaissance complexe se construit à partir de matériaux plus simples fournis par l'expérience. L'attrait de cette vue est évident : elle semble plus modeste, plus étroitement alignée sur la façon dont les enfants apprennent réellement, et moins vulnérable à l'extravagance métaphysique.
La réponse rationaliste n'est pas triviale. Innée ne doit pas nécessairement signifier explicite, et l'absence de conscience à la naissance ne prouve pas l'absence de structures natives. Pourtant, Locke pose une question difficile : s'il existait des vérités universellement implantées, pourquoi les humains ne s'accordent-ils pas si dramatiquement à leur sujet ? L'appel aux idées « claires et distinctes » commence à sembler circulaire si la clarté d'une personne est la confusion d'une autre. Ce n'est pas juste une querelle académique. Le rationalisme dépend souvent d'une sorte d'élite intellectuelle : ceux qui peuvent correctement prêter attention, analyser et déduire. Mais la philosophie qui repose sur une discipline spéciale de l'intuition risque de devenir auto-autoritaire de la manière même qu'elle tentait d'éviter.
David Hume aiguise la critique en attaquant le pont entre les idées et la nécessité. Dans le Traité de la nature humaine et l'Enquête sur l'entendement humain, il soutient que beaucoup des connexions que nous considérons comme rationnelles sont en réalité des habitudes formées par l'expérience répétée. Nous inférons la cause à partir de l'effet non pas parce que la raison voit un lien nécessaire dans le monde, mais parce que l'esprit a été entraîné à s'attendre à un événement après l'autre. Le point de Hume est dévastateur pour les rationalistes qui espéraient que la nécessité causale pouvait être connue a priori. Si la nécessité n'est qu'une projection de la coutume, alors la raison a exagéré ses prétentions.
Il y a ici une tension plus profonde. Le rationalisme veut la certitude, mais la certitude peut venir au prix du contact avec le monde tel qu'il est vécu. Si nous savons trop par la seule raison, nous risquons de perdre la texture de la contingence qui rend l'expérience ordinaire intelligible. La cire continue de fondre, le corps continue de souffrir, l'ordre politique continue de se fracturer. La réponse de Spinoza est de redécrire ces événements sous la nécessité, mais les critiques peuvent raisonnablement demander si de telles redécriptions éclairent ou simplement reclassifient. Dire que tout se produit par nécessité rend-il le monde plus clair, ou simplement moins réceptif à nos sentiments moraux ?
Une seconde ligne de critique cible la confiance rationaliste dans la déduction. La déduction est excellente pour préserver la vérité des prémisses à la conclusion, mais elle ne peut pas fournir ses propres prémisses. Si les points de départ sont faux ou trop minces, le système sera élégant et vide. Cette préoccupation est devenue particulièrement aiguë en métaphysique. L'argument de Descartes, qui va de la perception claire et distincte à l'existence de Dieu, et de la véracité de Dieu à la fiabilité de la raison, a souvent semblé à certains lecteurs se retourner sur lui-même. Le soi-disant cercle cartésien n'est pas une attaque facile ; il capture la peur que le rationalisme puisse avoir besoin de la fiabilité même qu'il essaie de prouver.
Spinoza fait face à une version différente du problème. Son système est puissant parce qu'il est total, mais cette totalité peut sembler à la fois une caractéristique et un danger. Si tout découle nécessairement de la nature de la substance, alors l'individualité, la contingence et la lutte morale risquent d'être englouties par le système. Les critiques se sont longtemps demandé si cela était une libération ou un aplatissement. Comprendre vos passions comme nécessaires peut réduire la superstition, mais cela peut aussi réduire la place pour la responsabilité personnelle telle que la vie morale ordinaire l'entend.
Leibniz, lui aussi, invite à la résistance. Son principe de raison suffisante exige une explication pour tout, pourtant plus l'explication devient complète, moins il semble y avoir de place pour de véritables alternatives. Si Dieu choisit le meilleur des mondes possibles, alors la possibilité elle-même commence à ressembler à une ombre théorique. Et si le monde est composé de monades pré-harmonisées, on peut se demander si la théorie explique la causalité vécue ou la remplace simplement par une chorégraphie métaphysique. Le système est ingénieux ; son ingéniosité même devient un point de vulnérabilité.
Les empiristes n'étaient pas les seuls critiques. Au sein de la tradition rationaliste, des figures ultérieures ont reconnu le danger de la trop grande confiance. Kant soutiendrait finalement que l'expérience fournit le contenu de la connaissance tandis que l'esprit fournit les formes. Il admirait la recherche de nécessité des rationalistes mais rejetait leur affirmation selon laquelle la raison peut simplement découvrir la réalité telle qu'elle est en elle-même. Entre ses mains, le vieux débat devient plus subtil : la raison est indispensable, mais pas souveraine de la manière simple dont les premiers rationalistes l'imaginaient.
La leçon surprenante des critiques est que la faiblesse du rationalisme est aussi sa gravité. Il demande plus qu'une opinion plausible ; il demande de la nécessité. Cette exigence ne peut pas être satisfaite à bon marché. Elle force les philosophes à confronter la possibilité que l'esprit humain veuille une certitude au-delà de ce que le monde peut accorder. À la fin du XVIIe siècle, le rationalisme a été testé non par le ridicule mais par la rivalité : il doit répondre à l'empirisme, au scepticisme et à sa propre ambition interne tout à la fois. La question suivante n'est pas de savoir s'il survit intact — ce n'est pas le cas — mais ce qui en survit après le grand règlement des comptes philosophiques.