1904年夏，张伯苓和严修东渡日本，考察其教育发展情况。他们想要弄清楚，为什么日本明治维新30年就如此强盛，而中国却一直贫弱。从日本考察回国后，两人认为：中学居于小学和大学之间，是培养人才的重要阶段。所以决定先办中学，以后再向小学和大学扩展。1904年10月17日学校开学，招收学生73名，其中一名学生是梅贻琦。20多年后，梅贻琦成为清华大学校长，执掌清华帅印将近20年。