Roma İmparatorluğu'na kadarki kayıtlarda kentte 5 Yahudi mahallesi olduğu yazılmışsa da Ankara Kalesi'nin Çankırıkapısında 2. yüzyılın birinci yarısına tarihlenen yazıtlarda kentte 12 Yahudi mahallesi olduğu kayıtlıdır. Evliya Çelebi de 17. yüzyılda kaleme aldığı Seyahatname'sinde "kentin Yahudi'si çoktur, sade Yahudileri 12 mahalledir." diye yazar.
Bu mahallelerden günümüze ulaşan tek mahalle olan İstiklal Mahallesi'nde bugün Yahudi sayısı yok denecek kadar azdır. Mahalle'de 17. yüzyıl öncesine ait olduğu düşünülen, 1843'te bir tamirattan geçirilen, 1904'te yeni baştan yapılıp 1909'da açılışı yapılan bir adet sinagog bulunmaktadır.