Silopi, milattan önceki dönemlerde önemli bir yerleşim yeri olan Ninova yani 'Musul' şehrine bağlı bir yerleşim merkeziydi. Eski kavimlerden Asurlular'ın bu bölgede kaldıkları, çevrede bulunan kalıntılardan anlaşılmaktadır. İlçeye bağlı Yankale mezrasında, bu kavime ait kale kalıntıları mevcuttur. Söylentilere göre ilçe içerisinde, Kavallı, Buğdaylı köyleri ile Yankale mezrasında bulunan tepelerin insan gücü ile yığma bir şekilde yapılmıştır. Tepeler incelendiğinde bu rivayetin doğruluğu anlaşılmaktadır. Bu tepeler Asurlular döneminde birer haber alma-verme aracı olarak kullanıldığı bilinmektedir. Asurlulardan sonra bölgenin hakimiyeti tamamen Sasaniler'in eline geçmiştir.
Daha sonra, M.S 960-1040 yılları arasında Büveyoğulları, bu bölgeyi ele geçirmişlerdir. Büveyoğullarına ait bir camii ve bir medrese kalıntıları, hâlen ilçeye bağlı Birlik köyü sınırları içerisinde mevcuttur.

Büveyoğullarından sonra hakimiyet, Cizre Emirlikleri'nin eline geçmiştir. Cizre Emirlikleri kendi aralarında üç kola ayrılmışlardır: Cizre, Finik, Gurkil. Cizre Beyi olan Hacı Bedran, ilçe hakimiyetini ele geçirmiştir. Hacı Bedran Bey'in ölümünden sonra şimdiki Silopi Ovası'nın idare ve yönetimi, oğlu Süleyman'a verildiği söylenmektedir. O zamanlar Silopi Ovası'nın adı 'Silonun Ovası' olarak geçerdi. İlçe 'Silopi' adını buradan almaktadır. Belli bir süre Cizre'ye bağlı olan bir nahiye olarak kalmıştır.

1931 yılında Cizre'ye bucak olarak bağlanan Silopi, 1960 yılında Mardin'e bağlı bir ilçe olarak idari taksimatta yerini almıştır. 18 Mayıs 1990 gün ve 20522 Sayılı Resmî Gazete'de yayımlanan Bakanlar Kurulu Kararı ile 16 Mayıs 1990 tarihinden itibaren yeni il olan Şırnak'a bağlanmıştır.