Kolej Kediaman Ibnu Sina telah siap dibina pada tahun 1959 bagi tujuan penginapan pelajar-pelajar jurusan perubatan di Universiti Malaya.

Di awal penubuhannya, hanya terdapat dua blok penghuni sahaja untuk menempatkan seramai lebih kurang 350 orang pelajar jurusan Ijazah Sarjana Muda Perubatan dan Pembedahan (MBBS) di Fakulti Perubatan.

Sebuah blok dikhaskan untuk pelajar lelaki, manakala sebuah lagi untuk pelajar wanita. Blok-blok yang tersebut kini dinamai Blok A dan B.

Dengan pertambahan pelajar Universiti Malaya yang semakin ketara pada tahun 1980an, empat buah lagi blok asrama telah dibina. Blok-blok yang kini dikenali sebagai Blok C, D, E dan F ini boleh menempatkan seramai 200 orang pelajar.

Dengan pembinaan blok-blok tambahan ini juga, Kolej mula mengambil penghuni daripada jurusan Ijazah Sarjana Muda Pergigian.

Peningkatan bilangan pelajar yang berterusan pada pertengahan 1990an telah memaksa Universiti Malaya untuk meningkatkan kapasiti kolej kediamannya. Untuk Kolej Kediaman Ibnu Sina, dua buah lagi blok asrama telah dibina. Blok-blok yang tersebut kini dikenali sebagai Blok G dan H.

Sejak tahun 2004, Kolej mula menerima penempatan pelajar-pelajar dari jurusan yang pelbagai, termasuklah Kejururawatan, Sains Bioperubatan, Farmasi, Kejuruteraan, Undang-undang, dan Alam Bina.

Buat masa ini pelajar lelaki ditempatkan di Blok B dan H, manakala selebihnya dihuni oleh pelajar wanita.