Ekmeleddin İhsanoğlu, Mısır’da Hıdiviye Lisesi’nden mezun olduktan sonra Ayn Şems Üniversitesi Fen Fakültesi'nde yükseköğrenim gördü.
Öğrenciliği sırasında Kahire Milli Kütüphanesi’nde Türkçe yazma ve basma kitapların kataloglamasında çalıştı. 1966’da Fen Fakültesi’nden mezun oldu ve El-Ezher Üniversitesi'nde akademik hayata başladı. Yüksek lisansı sırasında El Ezher Üniversitesi’nde asistanlık ve Ayn Şems Üniversitesi Edebiyat Fakültesi'nde Türk Dili ve Edebiyatı okutmanlığı yaptı. Bilim tarihi çalışmalarının yanısıra Hamid, Tevfik Fikret, Mehmet Akif, Yahya Kemal, Necip Fazıl, Nazım Hikmet gibi şairlerin eserlerini Arapça’ya çevirerek Türk kültürünü Araplar’a tanıtmaya çalıştı;Türk yazarlarından hikayeler içeren bir antoloji hazırladı (1970).
1970 yılında Türkiye’e geldi ve Ankara Üniversitesi’nde göreve başladı. 1972’de eczacı Füsun Bilgiç ile evlendi, üç çocuk sahibi oldu. 1974'te Ankara Üniversitesi Fen Fakültesi'nde doktorasını tamamladıktan sonra, İngiltere'de Exeter Üniversitesi'nde doktora-sonrası çalışmalar yaptı.
1980 yılında İslam İşbirliği Örgütü'nün tavsiyesi ile İstanbul’da kurulan İslâm Tarih, Sanat ve Kültür Araştırma Merkezi (IRCICA)’nin başkanlığına getirildi. Bu görevi 25 yıl sürdürdü. IRCIA bünyesinde Türk ve İslam kültürü konusunda büyük bir ihtisas kütüphanesi ve arşivi kurulmasına öncülük etti.
1984'te İstanbul Üniversitesi Fen Fakültesi’ne girerek profesör oldu. Bu üniversitede Bilim Tarihi Anabilim Dalı’nı kurdu. Üniversite ve IRCICA’daki görevlerinin yanısıra Türk Bilim Tarihi Kurumu'nun başkanlığı ve İstanbul Üniversitesi Bilim Tarihi Müze ve Dokümantasyon Merkezi müdürlüğü görevlerinde bulundu.
İhsanoğlu, 14-16 Haziran 2004’te İstanbul’da düzenlenen İslam Konferansı Örgütü (sonradan İslam İşbirliği Teşkilatı adını almıştır) 31. Dışişleri Bakanları Toplantısında, Genel Sekreterlik için Türkiye’nin adayı olarak gösterildi. Malezya ve Bangladeş ile genel sekreterlik için yarışan İhsanoğlu, 5 Haziran 2004'te Genel Sekreterliğine seçildi. Örgütün seçimle gelen ilk genel sekreteri ve ilk Türk genel sekreteri oldu; görevi 1 Ocak 2005’te devraldı.Görev süresi, 18-20 Haziran 2008 tarihlerinde Kampala’da düzenlenen 35. Dışişleri Bakanları Konseyi’nde 5 yıllık bir süre için uzatıldı.
İhsanoğlu, genel sekreterlik görevini Cidde'de düzenlenen törenle 30 Aralık 2013'te Suudi Arabistanlı İyad Medeni’ye devretti.
10 Ağustos 2014, seçimin ikinci oylamaya kalması durumunda ise 24 Ağustos 2014 tarihinde yapılacak cumhurbaşkanı seçiminde Cumhuriyet Halk Partisi ve Milliyetçi Hareket Partisi Cumhurbaşkanlığı için çatı adayı olarak açıklanmıştır.
İngilizce ve Arapça dillerinin yanı sıra orta düzeyde Fransızca ve Farsça bilmektedir. Bazı kaynaklarda ise bu dört dili akıcı olarak konuştuğu belirtilmiştir.
UNESCO ve Harvard Üniversitesi'ndeki görevlerinin yanı sıra millî ve uluslararası birçok bilim kurumunun üyesi olan İhsanoğlu, bilim ve eğitim tarihine katkı ve hizmetlerinden dolayı birçok ödül aldı. Türkiye Devlet Üstün Hizmet Madalyası (2000), Ürdün Birinci Derece İstiklal Madalyası, İKÖ Şeref ve Liyakat Sertifikası ile Mısır Cumhuriyeti Liyakat Nişanı ile ödüllendirildi.
2008’de Uluslararası Bilim Tarihi Akademisi tarafından Koyre Madalyasına layık bulundu. 2009 yılında Mısır Cumhuriyeti Sanat ve Kültür Nişanını, Malezya'da en üst sivil unvan olan Tansri unvanını ve 2010 yılında "İslamofobiye karşı verdiği mücadele ve Keşmir konusundaki çabaları" nedeniyle Pakistan'da en yüksek unvan olan Hilal-i Pakistan unvanını aldı. 22 Kasım 2013'de KKTC Cumhurbaşkanı Derviş Eroğlu tarafından gerek Kuzey Kıbrıs Türk Cumhuriyeti'nin İİT'deki durumunun yüceltilmesi, gerekse İİT üyeleriyle ilişkilerinin geliştirilmesi konusunda verdiğini hizmetler nedeniyle kendisine KKTC Devlet Nişanı verildi. İhsanoğlu, şimdiye kadar bu nişana layık görülen ilk ve tek kişidir.
Üyesi olduğu ve 2001-2005 arasında başkanlığını yaptığı Uluslararası Bilim Tarihi ve Felsefesi Kurumu (ICHSTM), 2007 yılı sonunda aldığı bir kararla, dört yılda bir bilim tarihi ve felsefesi alanlarında yapılacak doktora tezleri arasında yapılacak değerlendirme sonucu seçilen bir eseri bir “Uluslararası İhsanoğlu Altın Madalyası” adı altında ödüllendirmeye karar vermiştir.
Madalya, 2009 yılında Budapeşte’de 23. Uluslararası Bilim Tarihi ve TeknolojiKongresi sonunda Astronomi Tarihi tezi nedeniyle Dr. Jose Bellver Martinez’e; 2013 yılında İngiltere’nin Manchester kentinde 24. Uluslararası Bilim Tarihi ve Teknoloji Kongresi sonunda düzenlenen törenle İslam bilimi tarihinde astronomi üzerine yaptığı çalışma nedeniyle Marc Oliveras Busquets’a takdim edildi.
