20 asır kadar önce Yahudi tarihçi Flavius Josephus (yaklaşık 38-100), Yahudilerin yeryüzünün hemen hemen her yerinde ikamet ettiklerini söylediğinde, buna Hindistan’ı da dahil etmiş olmalı. Zira başta Kitâb-ı Mukaddes olmak üzere dönemin kaynakları, Roma İmparatorluğu’nun doğu sınırlarının Hint topraklarına kadar uzandığını kaydeder. Dolayısıyla Yahudilerin daha o tarihlerde Hint Yarımadası’nda da meskûn olduklarını söylemek mümkün. Bununla birlikte Yahudilik, Hindistan’da hiçbir zaman yaygın bir din olmamıştır.
Hindistan’daki Yahudilerin varlığına ilişkin en erken ve güvenilir atıflar İslâm kaynaklarında bulunmaktadır. 9-14. yüzyıllar arasında yaşayan Müslüman seyyahların ve coğrafyacıların eserlerinde, Hindistan’da önemli sayıda Yahudi’nin yaşadığından bahsedilir. En erken kaynaklardan biri, meşhur seyyah Süleyman Tâcir’e (ö. 851) aittir. Ahbâru’s-Sind ve’l-Hind adlı seyahatnamesinde Hindistan’a yaptığı yolculuktan bahsederken, güneydeki Serendib (Seylan) adasına da değinir. Seylan sultanının bütün dinlere ve mezheplere kendi dinî vecibelerini uygulama noktasında imkân tanıdığını nakleder ve adadaki dinî toplulukları zikrederken, kalabalık bir Yahudi topluluğuyla karşılaştığından bahseder.
9. yüzyılda yaşayan Ebu’l-Kâsım Ubeydullah b. Abdullah İbn Hordâzbeh’in Kitabü’l-mesâlik ve’l-memâlik adlı eseri de erken dönem İslâm seyahatname literatürünün seçkin bir örneğidir. Eserde, Yahudi tacirlerin izlediği Avrupa ile Asya arasındaki güzergâhtan da bahsedilir. “Razaniyye” denilen Yahudi tüccarlar Arapça, Farsça, Yunanca, Latince, İspanyolca ile Frankların dilini ve Slav dillerini çok iyi bilmektedirler. Fransa’dan kalkan gemileriyle Medine ve Mekke civarındaki limanlara uğrayıp oradan Hindistan’a giderler.
10. yüzyılda yaşayan, İran’ın Hûzistan bölgesinin Râmuhurmuz şehrine mensup Bozork b. Şehriyâr er-Râmuhurmuzî’nin (ö. yaklaşık 953) Kitâbü acâibi’l-Hind adlı eserinde, iki farklı başlık altında Hindistan Yahudilerinden söz edilir. Bunlardan birinde, İshâk b. el-Yehûdî adındaki Ummanlı Yahudi tüccarın, ortaklarından bir Yahudi ile arasında çıkan husumet yüzünden Umman’ı terk ederek Hindistan’a yerleşmesinden bahsedilmektedir. İkincisinde ise, Hz. Süleyman’ın Hindistan’ın Andaman el-Kebîr şehrindeki kabrinden söz edilir.
11. yüzyılın meşhur tarihçilerinden Şerif el-İdrîsî (ö. 1154), Kitâbü nüzheti’l-müştâk adlı eserinde yine Hindistan’ın güneyindeki Serendib (Seylan) adasındaki Yahudi topluluğu ve adanın yönetimine katılmaları ile ilgili şu bilgileri aktarmaktadır: “Herkend denizinin en meşhur adalarından biri de Serendib adasıdır. Bu adada, üzerine Hz. Âdem’in indiği bir dağ vardır. (…) Dağın adı er-Rahuk’tur. (…) Bu adanın kralının veziri vardır. Bunlardan dördü kendi milletinden, dördü Hıristiyan, dördü Müslüman ve dördü de Yahudi’dir. Kral bunların her biri için, kendi milletlerinin toplanacağı, kendi delillerini ve rivayetlerini yazacakları bir yer tahsis etmiştir. Buralarda toplanan insanlar, kendi peygamberleri ve kralları ile ilgili faaliyetleri kaydetme usulünü, şeriatlarını ve bilmediklerini öğrenirler.”