1894년 6월 23일 프랑스의 피에르 쿠베르탱(Pierre de Coubertin)에 의해 제창되어 파리 의회에서 창설된 국제기구로, 본부는 스위스 로잔에 있다. 고대올림픽의 이념과 전통을 널리 떨치게 하고, 아마추어 스포츠의 발전을 목적으로 법률상 국제법에 의한 법인체로 4년마다 올림픽경기대회의 개최를 주도한다.  IOC는 현재 전 세계 206개국의 국가올림픽위원회(NOC)와 국제경기연맹(IF)을 총괄하며, 산하 조직으로 총회와 집행위원회·사무국·윤리분과위원회·올림픽 대회조정분과위원회 등의 분과위를 두고 있다.

집행위원회는 위원장과 부위원장 4명, 위원 10명으로 구성되며 IOC 주요 정책결정에서 실질적인 권한을 행사한다. 집행위원회 산하 조직인 총회는 매년 1회 개최되며 올림픽 개최지 선정과 임원 선출, 위원 선정, 수익금 배분, 헌장 개정 등 올림픽에 관한 최종적인 결정권을 갖는다.

한편 올림픽 대회에 참가하고자 하는 각 국가는 IOC가 승인하는 국가올림픽위원회(NOC, National Olympic Committee)를 보유해야만 한다. 우리나라는 1946년 대한올림픽위원회(KOC)를 창설, 1947년 6월 스웨덴 스톡홀름에서 열린 IOC 총회에서 IOC 정식회원국으로 가입하였다. 그리고 북한은 1963년 10월 독일 바덴바덴 IOC 총회에서 IOC에 정식 가입하였다.

IOC 위원은 스포츠계 최고의 명예직이며 대부분의 나라에 입국사증 없이 입국이 허용되는 등 국제적인 예우를 받는다. 또 전 세계 어디를 가더라도 국가원수급 의전 대상이 되며, 다른 나라를 방문 시 IOC 깃발이 투숙한 호텔 게양대에 걸린다. IOC의 위원들은 초기에는 종신제로 선출되었으나, 현재는 70세가 정년이다. 다만 1966년 이전에 선출된 IOC 위원은 종신, 1999년 12월 11일 제110차 로잔 IOC총회 개최일 이전에 선출된 위원은 80세까지의 정년이 보장된다. 그 외에는 8년 임기를 수행하며 재선이 가능하다.

우리나라는 1955년 이기붕(1955∼1960) 당시 부통령이 처음 IOC 위원에 선출된 이래 이상백(1964∼1966), 장기영(1967∼1977), 김택수(1977∼1983), 박종규(1984∼1985), 김운용(1986∼2005), 이건희(1996~2017), 박용성(2002∼2007), 문대성(2008~2016)이 활동했으며, 현재 유승민(2016~)과 이기흥(2019~)이 IOC 위원으로 활동하고 있다. 

IOC 위원장은 무보수 명예직이며 장기집권에 따른 독단을 견제하기 위해 1999년부터 임기 8년, 한 차례에 한해 4년 중임이 가능하도록 제한되었다. 현재 IOC 위원장은 2001년부터 연임해 오고 있는 벨기에 출신의 자크 로게에 이어, 2013년 선출된 독일의 토마스 바흐다.