La primera referencia concreta a una comunidad sefardí en Jaén se remonta nada más y nada menos que a los primeros años del siglo VII: en 612 el rey visigodo Sidebuto prohibió por ley que los judíos de la ciudad tuviesen esclavos cristianos.

 

Es obvio que una referencia legal de este tipo sólo se explica si existe una comunidad importante, por lo que cabe pensar que esta se habría establecido en la ciudad ya en época romana.

 

En cualquier caso, la citada ley también es un ejemplo de que la España visigótica no fue un entorno muy positivo para los judíos, que por el contrario sí recibieron de forma positiva la dominación musulmana, que en Jaén como en otras aljamas supuso el inicio de un periodo de prosperidad.

 

Así, ya en el Jaén del siglo IX se sabe que la comunidad judía contaba con una sinagoga y también con una yeshivá, es decir una escuela en la que se estudiaban y enseñaban la Torá y el Talmud.

​