Les premières traces de l'existence de La Jaille-Yvon remontent au XIe siècle, lorsque Yvon Ier, fils du comte de Bellême, reçoit de Foulque III Nerra, comte d'Anjou, la charge de construire une place forte dans un endroit dominant la Mayenne. Il érige alors un château à motte sur l'actuelle commune de La Jaille-Yvon (butte de l'Échaudée).
Au XVe siècle, le bourg, administré par un sénéchal, semble assez important pour être appelé "ville". En 1552, les seigneurs de La Jaille-Yvon, les de PÉRIERS, quittent le château primitif pour s'installer au logis de la Cour du Port.
La période révolutionnaire n'épargne pas la population jaonnaise. Les 12 et 13 mars 1793, une partie de la population royaliste se soulève lors du recensement des jeunes conscrits. La garde du canton intervient et l'on déplorera une vingtaine de morts. Deux nobles, Hercule de la GRANDIÈRE et Jacques GASTINEAU, accusés d'avoir fomenté ce soulèvement, seront guillotinés à Angers le 4 mars 1794.
Jusqu'au début du XXe siècle, l'activité économique de La Jaille-Yvon est principalement tournée vers la Mayenne. Dès le XIe siècle, 3 moulins à eau sont en activité : le moulin de La Jaille, le moulin de la Roche-Breteaudière (dont il ne reste plus de trace) et le moulin du Petit Chenillé. La construction des deux écluses dans les années 1860 provoque la transformation du moulin de La Jaille en véritable "usine" à 4 niveaux. Le moulin du Petit Chenillé s'arrête dans les années 1900 tandis que celui de La Jaille continuera à écraser du blé jusqu'en 1972. L'histoire de La Jaille-Yvon est également marquée par l'exploitation des carrières d'ardoises et de pierre du XVe siècle jusqu'à la fin du XIXe siècle, ainsi que par l'extraction du minerai de fer de 1876 jusque dans les années 1920. La vigne a également été cultivée sur les coteaux de la Mayenne jusqu'au XIXe siècle.
Du point de vue démographique, La Jaille-Yvon comptait 475 habitants (120 feux) en 1720. Elle connaît son apogée en 1851 avec 762 habitants. Aujourd'hui elle compte 342 habitants.