Narodil sa v roku 1925 v Norristowne, štát Pennsylvánia, v rodine hudobníkov, kde získal aj základy hry na klavíri a basovej gitare. Potom študoval na Hamilton School of Music a Ornstein's School of Music. Na hammonde začal hrať v roku 1951. K vysnenému zvuku sa dopracoval po mnohých experimentoch a ten sa stal štandardom pre neskorších džezových organistov.
Debut mal v newyorskej Cafe Bohemia, v zahraničí sa stal známym vďaka vystúpeniu na džezovom festivale v Newporte v roku 1957. Vlani na jeseň bol jednou z hviezd festivalu Bratislavské jazzové dni, pred mesiacom sa Smith stal nositeľom Jazz Masters Award za výnimočný príspevok pre džezovú hudbu a doslova revolučné novátorstvo.
V nahrávacích štúdiách prežil šesť dekád života. Nahrával v rôznych zostavách: od tria po big bandy. Jeho hra vychádza zo soul jazzu a je v nej cítiť stáleprítomný bluesový element. V roku 2001 si diskografiu obohatil o dve ďalšie nahrávky - bluesové projekty Fourmost Return a Dot Com Blues.
Organ Hammond B3 v posledných rokoch zažil nárast popularity a Smith sa stal inšpiráciou pre mladých hudobníkov. "Jimmy bol jedným z najväčších a najinvenčnejších hudobníkov našich čias," vyhlásil hudobník Joey DeFrancesco. "Bol mojím idolom, mojím mentorom a mojím priateľom," dodal. Práve DeFrancesco nahral nedávno so Smithom album Legacy, ktorý vydavateľstvo Concord uvedie na trh na budúci týždeň. (tasr)