Trường đại học Đông Dương ra đời theo Nghị định số 1514a ngày 16 - 5 - 1906 của Toàn quyền Đông Dương. Nghị định gồm 9 điều khoản quy định cụ thể tên gọi, nhiệm vụ, nhân sự, điều kiện tuyển sinh, văn bằng và các ngành học. Ngoài nghị định còn có bản nội quy, quy chế của trường. Nội quy xác định mô hình đào tạo và ngành đào tạo của trường. Quy chế xác định chi tiết mục tiêu đào tạo, cơ sở đào, ngành đào tạo, chương trình đào tạo, ngân sách, đội ngũ giảng viên, sinh viên, quy chế thi cử và tốt nghiệp, và các chính sách ưu tiên khác. Trường do ông Tổng Giám đốc Học chính Đông Dương điều hành. Ngoài ra còn có sự hỗ trợ của Hội đồng Cải tiến giáo dục, giám đốc các cơ quan khoa học, và đại diện của người đứng đầu các cơ quan hành chính địa phương. Trường đặt dưới sự chỉ đạo của Toàn quyền Đông Dương.

Sau hơn một năm chuẩn bị, ngày 10 - 11 - 1907 chính quyền thực dân đã long trọng tổ chức lễ khánh thành trường Đại học Đông Dương tại Phủ Toàn quyền Đông Dương. Đích thân Thống sứ Bắc Kỳ De Miribel làm chủ tọa buổi lễ này. Trụ sở của trường đặt tại số 40, đường Gia Long (nay là số 19, Lê Thánh Tông, Hà Nội). Những ai có đủ các điều kiện văn bằng theo quy định đều được xét tuyển vào học tại trường. Ba ngành học đầu tiên của trường là luật học, khoa học và văn học.

Toàn quyền Đông Dương Toàn Paul Beau đã mạnh mẽ vượt qua các chỉ trích của những người phản đối khi thành lập trường Đại học Đông Dương. Ông muốn trường phải gây được tiếng vang lớn trong giới trí thức bản xứ, cạnh tranh được với các trường của Nhật Bản và Trung Hoa, và mở rộng ảnh hưởng trí tuệ của người Pháp vượt ra ngoài biên giới Đông Dương. Việc ông thành lập trường Đại học Đông Dương để lại dấu ấn ở thuộc địa chẳng khác nào trước đó Paul Doumer xây dựng cầu Long Biên. Tổng Giám đốc Học chính Đông Dương kỳ vọng trường Đại học Đông Dương là nơi đào tạo đại học, với học vấn đạt đỉnh cao cho những người bản xứ, đáp ứng được các yêu cầu phát triển kinh tế và hành chính của Đông Dương, trở thành một trung tâm văn hóa Âu châu, và tăng cường ảnh hưởng của nước Pháp tại Viễn Đông. Như vậy mục đích thành lập trường đã được người đứng đầu chính quyền thực dân và người đứng đầu nền giáo dục thực dân ở Đông Dương nêu rõ, đó là đào tạo đội ngũ trí thức bản xứ, cạnh tranh với giáo dục Nhật Bản và Trung Quốc, phục vụ khai thác thuộc địa, và truyền bá văn hóa Pháp. Tuy nhiên, sau một năm đi vào hoạt động trường Đại học Đông Dương đã bị chính quyền thuộc địa đóng cửa với lý do chính là trình độ sinh viên thấp, không đáp ứng được các yêu cầu của bậc đại học. Sự đóng cửa trường Đại học Đông Dương cho thấy những khó khăn, hạn chế của nền giáo dục Pháp tại Việt Nam trong thời kỳ đầu khai mở bậc đại học.

Năm 1917, Toàn quyền Albert Sarraut đã hồi sinh trường Đại học Đông Dương. Từ đây trường Đại học Đông Dương có sự chuyển mình cả về chất và lượng. Trong thời gian từ năm 1917 đến năm 1945, hoạt động của trường Đại học Đông Dương đã trải qua những bước thăng trầm khác nhau.

Trung bình mỗi năm trường Đại học Đông Dương đón từ 500 đến 600 sinh viên vào nhập học. Con số này còn khiêm tốn so với dân số của toàn xứ Đông Dương. Những lý do để người Pháp giải thích về con số sinh viên ít ỏi này thì nhiều, ví dụ như ngân sách hạn chế, sự chống đối của phe chống tăng cường giáo dục cho thuộc địa trong nghị viện, trình độ sinh viên thấp, hạn chế về chương trình đào tạo, đội ngũ giáo viên… Một trong những lý do chính là sự hạn chế về tài chính của người Pháp. Trong suốt thời kỳ từ khi xâm lược cho đến khi rời khỏi Việt Nam, gánh nặng tài chính luôn đè nặng lên chính giới Pháp. Lo sợ tốn kém ngân sách, cho nên họ thường gò ép chính quyền thuộc địa phải giảm chi tối đa. Bên cạnh đó còn một lý do tế nhị khác khó nói ra bằng lời, đó là họ sợ sự chống đối của những trí thức bản xứ. Họ lo đào tạo càng nhiều, bậc học càng cao thì nguy cơ càng lớn. Trên thực tế trường Đại học Đông Dương đã đào tạo cho Việt Nam một đội ngũ trí thức tinh hoa trên nhiều lĩnh vực và ngành nghề khác nhau.

Một trong những nhiệm vụ của trí thức Việt Nam cận đại là hiện đại hóa dân tộc. Vấn đề hiện đại hóa dân tộc xuất hiện ở Việt Nam từ cuối thế kỷ XIX. Một nhóm trí thức tiến bộ là Nguyễn Trường Tộ, Bùi Viện, Phạm Phú Thứ, Đặng Huy Trứ, Nguyễn Lộ Trạch và Đinh Văn Điền đã đề nghị triều Nguyễn tiến hành canh tân đất nước. Họ nhấn mạnh sự cần thiết phải mở cửa đất nước, học hỏi khoa học và kỹ thuật hiện đại của phương Tây để tự cường. Những trí thức Nho học cấp tiến trong những năm đầu thế kỷ XX đã phát động phong trào duy tân trên phạm vi cả nước. Họ tự nguyện chấp nhận văn minh phương Tây, coi trọng cải cách giáo dục theo hướng hiện đại kiểu Âu - Mỹ. Những trí thức Tây học, trong đó có những người xuất thân từ trường Đại học Đông Dương, được đào tạo khá bài bản trong môi trường giáo dục hiện đại của người Pháp ở Việt Nam. Họ là những người trực tiếp tham gia vào tiến trình hiện đại hóa dân tộc. Hiện đại hóa dân tộc ở Việt Nam thời cận đại đồng nghĩa với phương Tây hóa.

Đội ngũ trí thức tinh hoa Việt Nam không phải đều xuất thân từ trường Đại học Đông Dương. Nhà trường phổ thông cung cấp một lượng trí thức tinh hoa nhiều hơn so với trường Đại học Đông Dương. Điều này cũng dễ hiểu vì toàn xứ Đông Dương chỉ có duy nhất một trường đại học. Tuy nhiên, những trí thức tốt nghiệp trường Đại học Đông Dương có cơ hội việc làm tốt hơn so với những trí thức tốt nghiệp bậc phổ thông. Một số người sau khi tốt nghiệp đại học đã trở thành các công chức, viên chức trong bộ máy chính quyền thuộc địa. Trong khi đó nhiều người làm nghề tự do, tiêu biểu như  viết báo, viết văn, làm thơ, nhạc sĩ, họa sĩ, bác sĩ và luật sư.

Những trí thức xuất thân từ trường Đại học Đông Dương không chỉ biết tiếp nhận và hấp thụ các tri thức hiện đại của phương Tây mà còn là những người sáng tạo và truyền bá các tri thức đó ra cộng đồng. Một trong những nghề truyền bá tri thức ra cộng đồng mạnh mẽ nhất là nghề giáo. Những sinh viên tốt nghiệp ngành sư phạm khi trở thành nhà giáo đã đem những tri thức hiện đại để dạy cho học trò. Nội dung đào tạo và phương pháp giảng dạy của họ khác với nền giáo dục Nho học truyền thống. Nhiều sinh viên tốt nghiệp ngành văn chương, nghệ thuật đã trở thành những nhà thơ, nhà văn, nhà phê bình, nhà soạn kịch, nhạc sĩ và nhà báo nổi tiếng tài hoa. Họ đã đã góp phần xây dựng nên một nền văn học, kịch nói, âm nhạc và báo chí Việt Nam hiện đại. Tiêu biểu trong sáng tác văn học có nhà văn Hoàng Ngọc Phách, với tiểu thuyết Tố Tâm - tiểu thuyết lãng mạn đầu tiên ở Việt Nam. Tiêu biểu trong lĩnh vực kịch nói là Vi Huyền Đắc, với tác phẩm Chén thuốc độc. Tác phẩm đã đánh dấu sự trưởng thành của kịch nói Việt Nam theo hướng hiện đại. Tiêu biểu trong nghiên cứu văn học là Dương Quảng Hàm, với công trình Việt Nam văn học sử yếu. Tiêu biểu trong lĩnh vực âm nhạc nhạc sĩ Văn Cao, với những tác phẩm nổi tiếng như Bến xuân, Suối mơ, Thiên Thai, Trương Chi… Ngành mỹ thuật đạt được nhiều thành tựu, trong đó nổi bật lên là hội họa. Những gương mặt họa sĩ đã hiện đại hóa nền mỹ thuật, hội họa Việt Nam tiêu biểu như Nguyễn Phan Chánh, Tô Ngọc Vân, Trần Văn Cẩn, Nam Sơn, Bùi Xuân Phái, Lê Thị Lựu, Trần Phềnh, Mai Trung Thứ…, hay những nhà thiết kế thời trang nổi tiếng như Lê Phổ và Cát Tường. 

            Trường Đại học Đông Dương cung cấp khá nhiều trí thức tinh hoa trong những lĩnh vực khoa học tự nhiên. Một trong những thành tựu nổi trội của khoa học tự nhiên là sự phát triển ngành y học. Ngoài ra cũng phải kể đến những ngành như nông học, xây dựng, cơ khí và khoa học. Tuy nhiên, so với lĩnh vực khoa học xã hội thì lĩnh vực khoa học tự nhiên không nổi trội bằng. Sự chênh lệch này là do chương trình đại học của người Pháp thiên về khoa học xã hội, mà xem nhẹ phần khoa học tự nhiên. Do đó tiến trình kỹ nghệ hóa Đông Dương diễn ra chậm chạp.

Trường Đại học Đông Dương là một trong những trung tâm chống Pháp mạnh mẽ ở Việt Nam. Nguyễn An Ninh, cựu sinh viên trường Đại học Đông Dương, đã ra tờ La Cloche félee (Chuông rè) năm 1923 ở Sài Gòn công khai đả kích chế độ thuộc địa và tuyên truyền các tư tưởng tiến bộ của phương Tây. Năm 1925, nhóm sinh viên trường Đại học Đông Dương là Tôn Quang Phiệt, Đặng Thai Mai và Phạm Thiều đã phối hợp với nhóm cựu chính trị phạm ở Trung Kỳ thành lập Hội Phục Việt với mong muốn phục hồi lại nền độc lập của nước Việt Nam. Những năm 1925 - 1926, sinh viên trường Đại học Đông Dương hòa mình vào dòng thác đấu tranh của giới học sinh trong cả nước. Họ đấu tranh đòi các quyền tự do, tiêu biểu là phong trào đấu tranh đòi thả nhà yêu nước Phan Bội Châu (1925), phong trào để tang nhà yêu nước Phan Châu Trinh (1926). Những hoạt động yêu nước ôn hòa của sinh viên trường Đại học Đông Dương nói chung, học trò trong nước nói riêng đã bị thực dân Pháp đàn áp.

Sự đàn áp học đường của thực dân Pháp đã làm nảy sinh tư tưởng bạo động. Một số sinh viên của trường Đại học Đông Dương đã thành lập Nam Đồng thư xã, cơ sở chuyên in ấn và phát hành các sách báo yêu nước. Nhóm sinh viên, cựu sinh viên của trường Đại học Đông Dương là Nguyễn Thái Học, Nguyễn Khắc Nhu, Phó Đức Chính và Hồ Văn Mịch trở thành thủ lĩnh của tổ chức Việt Nam Quốc dân Đảng ra đời năm 1927, một tổ chức yêu nước theo khuynh hướng bạo động. Thất bại của cuộc khởi nghĩa Yên Bái năm 1930 do tổ chức Việt Nam Quốc dân Đảng phát động đã đánh dấu sự thất bại của phong trào yêu nước theo khuynh hướng cách mạng tư sản.

Chủ nghĩa Mác - Lênin được truyền bá vào Việt Nam và sớm được sinh viên trường Đại học Đông Dương tiếp nhận. Một nhóm sinh viên trường Đại học Đông Dương đi theo tư tưởng Tờ rốt kít, tiêu biểu như Tạ Thu Thâu và Phan Văn Hùm. Những gương mặt Mácxít tiêu biểu của trường là Đặng Thai Mai, Nguyễn Khánh Toàn, Võ Nguyên Giáp và Phạm Văn Đồng. Cũng có những sinh viên tham gia các hoạt động yêu nước chống Pháp nhưng không phải là những người cộng sản, tiêu biểu như Phan Anh, Vũ Đình Hòe và Vũ Văn Hiền.

Nhìn chung, sự ra đời của trường Đại học Đông Dương dù với mục đích gì của người Pháp cũng là có lợi cho người Việt Nam. Trường Đại học Đông Dương là cái nôi đào tạo trí thức tinh hoa lớn nhất ở Việt Nam thời cận đại. Nhiều trí thức Việt Nam từ cái nôi đào tạo này đã phát huy được sự sáng tạo của mình trong từng ngành nghề và từng lĩnh vực. Trường Đại học Đông Dương là một trong những kênh quan trọng cho trí thức Việt Nam tiếp nhận văn minh phương Tây để hiện đại hóa dân tộc. Trường Đại học Đông Dương cũng là nơi tiếp nhận và nảy sinh nhiều tư tưởng đấu tranh giải phóng dân tộc. Tiến trình hiện đại hóa dân tộc gắn liền với tiến trình giải phóng dân tộc. Trong tiến trình đó trường Đại học Đông Dương là một mắt xích quan trọng.