A ideia da criação de um Centro de Matemática em Portugal nasceu em finais de 1990 em discussões propiciadas pelos contactos havidos entre representantes da Sociedade Portuguesa de Matemática (SPM) e da Sociedade Europeia de Matemática (EMS), que acabava de ser fundada.
Durante 1991 prosseguiram os contactos com matemáticos europeus que apoiaram a ideia entre os quais J. M. Lemaire, do CIMPA que esteve em Portugal, Angelo Marzollo, da UNESCO e F. Hirzbruch, de Bona, que em 21 de Outubro de 1991 manifestou expressamente o seu apoio em nome da comissão executiva da EMS.
O processo desenvolveu-se desde o seu início sob a égide da SPM e assumiu-se como projecto de âmbito nacional no propósito de nele envolver todos os matemáticos portugueses. Alguns colegas de Coimbra sugeriram também logo no início que a sua Universidade disponibilizasse instalações no Observatório Astronómico onde existia algum espaço livre, tendo as diligências que fizeram nesse sentido encontrado total receptividade por parte das instâncias universitárias competentes.
Formou-se então em Coimbra uma comissão ad-hoc presidida pelo Prof. J. A. Sampaio Martins e na qual trabalharam os Profs. Francisco José Craveiro de Carvalho (durante um período inicial), Maria Paula Martins Serra de Oliveira, João Filipe Cortez Rodrigues Queiró e J. M. S. Simões Pereira. Esta comissão, que acompanhou todo o processo até à outorga da escritura notarial de constituição do CIM, organizou dois encontros em 1992, o primeiro a 9 de Maio para discutir o projecto em linhas gerais e o segundo a 20 de Junho para discutir já um Projecto de Estatutos de cuja elaboração a referida comissão foi informalmente encarregada no primeiro encontro.
Foram convidados para participar nestes encontros os presidentes ou coordenadores de todos os departamentos de matemática das universidades públicas portuguesas, os quais efectivamente compareceram na sua quase totalidade, a SPM, cujo Presidente, à data o Prof. António St. Aubyn, dirigiu a mesa do primeiro encontro, e também a Academia de Ciências de Lisboa que se fez representar pelo Prof. F. Dias Agudo.
O perfil do Centro desenhou-se como uma infra-estrutura ao serviço da Matemática em Portugal, do seu desenvolvimento, do aumento da sua visibilidade e como instrumento para que a cooperação nacional e internacional no campo da Matemática se alargue, se intensifique e seja cada vez de melhor qualidade. Uma vertente de cooperação com os Países Lusófonos foi largamente apoiada. A adesão a todo o projecto foi substancial, embora na maioria dos casos os diferentes departamentos de matemática tenham levado meses a esclarecer a forma legal de aderir ao CIM.
Uma vez outorgada a escritura de constituição, concordou-se na formação de uma comissão instaladora cujos membros eram representantes dos cinco primeiros signatários da escritura e que geriu o CIM até à Assembleia Geral de 16 de Julho de 1996. Integraram, em distintos períodos, essa comissão, os Professores António St. Aubyn e Natália Bebiano Providência e Costa (pela Sociedade Portuguesa de Matemática, como seus Presidentes), J. M. S. Simões Pereira (pela Universidade de Coimbra), Fernando C. Silva e Maria do Rosário Grossinho (pela Faculdade de Ciências da Universidade de Lisboa), Jorge Almeida e Isabel Labouriau ou Alberto Adrego Pinto (pela Universidade do Porto, respectivamente Matemática Pura e Matemática Aplicada), e Estelita da Graça Rodrigues Vaz (pela Universidade do Minho).
Devido a ter como sócios pessoas colectivas, o CIM não concorre com, mas sim complementa, as associações de matemáticos, como a Sociedade Portuguesa de Matemática e outras, que, em Portugal, também estão ao serviço do desenvolvimento da Matemática. Espera-se que uma participação empenhada das instituições associadas possa aproveitar potencialidades e despertar forças que os matemáticos só por si, individualmente, não podem suscitar. E que essas forças sirvam a Matemática e o trabalho dos matemáticos.