Ele foi estabelecido em 1974 pelos presidentes dos bancos centrais dos países do Grupo dos Dez (G-10). Normalmente se reúne no Banco de Compensações Internacionais, na cidade de Basileia, Suíça, onde se localiza sua secretaria permanente. Nesse comitê, são discutidas questões relacionadas à indústria bancária, visando estabelecer padrões de conduta, melhorar a qualidade da supervisão bancária e fortalecer a solidez e segurança do sistema bancário internacional.

A primeira reunião do Comitê de Basileia ocorreu em fevereiro de 1975, sendo que a partir de 1981, os resultados das reuniões começaram a ser publicados anualmente, por meio de relatórios sobre os avanços ocorridos na supervisão bancária. Ainda em 1975, foi elaborado o documento intitulado "Concordat", que visava estabelecer diretrizes para o desenvolvimento dos trabalhos do Comitê e instituiu dois princípios, que todo estabelecimento bancário no exterior deveria ser supervisionado e a supervisão deveria ser adequada.