La construction de la mosquée de Sidi Yahya, parfois écrite Sidi Yahia, commence en 1400 par Cheikh El-Mokhtar Hamalla. La mosquée Sidi Yahya est l’une des plus anciennes mosquées de Tombouctou et revêt une signification particulière : lorsque les Touareg sous leur chef Akil prennent le contrôle de Tombouctou en 1433, ils donnent la chefferie à Mohammed Naddi, un Senhaja de Chinguetti qui commande la mosquée. Il faut 40 ans pour le terminer. En 1441, Mohamed Naddah, le gouverneur de la ville de Tombouctou, nomma son ami proche Sidi Yahya al-Tadelsi, qui fut plus tard vénéré comme un saint, comme son premier imam. La tombe de Sidi Yayha est située dans la mosquée, ce qui signifie qu’elle attire historiquement de nombreux visiteurs, dont l’érudit le plus renommé de Tombouctou, Ahmad Baba. La construction de Sidi Yahya en médersa permet une expansion massive de l’échange de connaissances au Mali. On sait peu de choses sur la mosquée et ses imams dans l’intervalle de 1468 à 1583, seulement qu’elle est restaurée en 1569 par Qadi el-Aqib.

En 1990, le gouvernement du Mali demande l’admission de la ville de Tombouctou sur la liste du patrimoine mondial en péril de l’UNESCO en raison d’une menace d’empiètement de sable sur des bâtiments historiques, dont la mosquée Sidi Yahya4. Alors que la communauté maintient Sidi Yahya mieux entretenu que les deux autres principales mosquées de Tombouctou, des années d’érosion, l’usure des fondations et un drainage inefficace menacent la structure. Après avoir adopté et mis en œuvre des recommandations pour protéger son architecture de l’organisation, Tombouctou est retiré de la liste en 2005