E' possibile che la presenza ebraica a Firenze possa essere fatta risalire fino all'epoca romana, ma é soltanto dal XIV secolo che si hanno i primi documenti sugli ebrei nel territorio della Repubblica fiorentina.
Inizialmente a coloro che giunsero a Firenze furono garantiti alcuni diritti e privilegi che gli consentirono un'esistenza relativamente tranquilla. Ma nel 1571, Cosimo I, divenuto Granduca di Toscana, accettando un'ingiunzione del Papa, stabilì la creazione di un "ghetto" per gli ebrei in una zona dell'attuale centro storico tra via Roma, piazza della Repubblica, via Brunelleschi e più tardi via de'Pecori. All'interno del ghetto gli ebrei avevano una loro propria vita religiosa, sociale e culturale: avevano due sinagoghe, una delle quali di rito italiano, l'altra sefardita (o levantina), le scuole, la macelleria casher, il forno, il bagno rituale e numerose istituzioni di assistenza e di beneficenza.
Quando Napoleone conquistò la Toscana portò l'Emancipazione civile agli ebrei in Toscana e fu alquanto penoso per loro, al momento della Restaurazione , dopo il Congresso di Vienna del 1815, tornare ad essere chiusi nel ghetto. Da allora gli ebrei parteciparono attivamente ai moti risorgimentali ed alle guerre per l' Indipendenza d'Italia.
Ottenuta finalmente la parità di diritti con i loro concittadini cristiani, gli ebrei si dedicarono a tutte le professioni e a tutte le attività, contribuendo, nonostante la loro scarsa entità numerica, allo sviluppo culturale ed economico della città.
La costruzione di una nuova Sinagoga divenne necessaria dopo l'apertura e poi della demolizione del vecchio ghetto fiorentino. La raccolta dei fondi necessari, già iniziata grazie ad una donazione di 5000 ducati da parte della famiglia Montebarocci, si concluse solo trenta anni più tardi con il lascito del Cavalier David Levi che volle così rendere possibile la costruzione di un "Tempio monumentale degno di Firenze".
La Sinagoga progettata da tre architetti, Treves, Falcini e Micheli fu iniziata nel 1874 ed inaugurata nell'ottobre del 1882. Essa rappresenta uno dei migliori esempi di architettura mediorientale in cui lo stile moresco si fonde allo stile bizantino-orientale in un perfetto equilibrio. Sopra un transetto si erge una cupola a tamburo che, con le sue lamine verdi/azzurre, costituisce un elemento inconfondibile nel panorama fiorentino. Quattro volte a botte coprono i quattro bracci dell'edificio che terminano in timpani rotondi. Un altro elemento tipico dell'esterno é costituito dalle due cupolette a bulbo, erette su piccole torri ottagonali. Gli archi, interni ed esterni, sono in stile moresco, come le finestre, bifore e trifore, adornate con piccole colonne. L'interno del tempio, le pareti e il soffitto, sono interamente decorati con affreschi policromi a motivi geometrici e tutte le decorazioni, in legno e in bronzo, le mattonelle e le vetrate, creano un effetto suggestivo.
L'Aron ha-Kodesh (Arca Santa) ha colonne in marmo nero, un ricco mosaico e porte dorate; la Bimah é in legno scuro finemente intagliato.
Al primo piano della Sinagoga é stato allestito un Museo Ebraico di Firenze, un esposizione storico-artistica che ripercorre in una rapida carrellata i momenti più importanti della storia degli ebrei a Firenze e presenta gli esempi più significativi di arredi orafi e tessili che costituiscono il patrimonio artistico della Comunità. In primo luogo vengono mostrati preziosi arredi cerimoniali utilizzati nei momenti salienti della vita familiare, quindi antichi oggetti inerenti alla celebrazione delle principali feste ebraiche e, infine , gli argenti e le stoffe più rare usate per adornare il Sefer.