在当今中国大陆的名牌大学中，天津的南开大学也是颇有历史的，其创始人为张伯苓，他不仅创办了南开大学，还创办了南开中学、南开女子中学、南开小学、南渝中学（重庆南开中学）等南开系列学校，成为民国时期中国私立学校的典范。
张伯苓曾自我描述道：“我既无天才，又无特长，我终身努力小小的成就，无非因为我对教育有信仰有兴趣而已。”
创办南开中学
1876年4月生于天津的张伯苓，早年入北洋水师学堂，学习欧美科技文化知识，毕业后入海军服务，想通过海军使中国强大起来。甲午战争打破了张伯苓的“海军救国”梦想，他决定回天津从事教育。按照他的一位朝鲜朋友的评语：“张伯苓是一个极其简单的人，不能跟同时代的杰出人物争一日之长短，但是他脚踏实地地苦干，在他的工作范围里，成就非凡。”这个工作范围就是“教育”。
回到天津后，张伯苓首先在曾任贵州学政，即今天的教育厅长的老乡严修家做家塾教席，讲授数学、理化和英语。这在当时是个不小的新闻。而在教授之余，张伯苓还和学生一起踢足球，一起玩玩惠斯特（桥牌的前身），带学生到城外骑自行车等。不过，因为严修和其教育理念相同，且都热心教育救国，所以两人一拍即合。1904年改家塾为敬业中学堂。力倡洋务的直隶总督袁世凯视察后很满意，捐出了5000两白银，资助办学。1906年严修在南开洼购地建新校，改称南开中学，张伯苓为监督（即校长）。
南开中学实行西式教育。在张伯苓的经营下，保持着良好的学风，不仅教师授课认真，对学生要求严格，而且课外活动丰富多彩，赢得了很高的社会声誉。
彼时的南开中学有不少富二代、官二代。富家弟子吸纸烟当时是时髦。每次假期回来的训育课，学校都要检查学生手指的熏黄和口袋的烟味。一次，一个学生质问张伯苓：“您叫我不抽烟，您干吗还抽烟呢？”张伯苓一时无语，遂把烟袋撅断说：“我不抽，你也别抽！”从此他一生再没有吸过烟。
资料显示，对于学生张伯苓是相当的爱护，他喜欢清晨去学生的洗脸室，教农村来的学生使用牙刷和牙粉。他还常请学生到家里吃饭，这其中就包括周恩来。
在南开中学，张伯苓还严格查禁黄色小说，严禁学生进妓院，还在妓院多的街道派人巡查。学生无故夜宿校外的，须详报行迹，甚至要到校医室验证。
有着如此严格管理制度的南开中学声名传播于外。于是，各地学子纷纷前来投考，包括梁启超、冯玉祥、段祺瑞、袁世凯、黄兴、胡适、叶圣陶、张自忠、邹韬奋等名人也放心的把子女送到南开中学，一些学生甚至来自东南亚国家。数十年间，学生就发展到近千人。
而南开中学在一百年期间，师生成长为各类科技院士（包括少数外国院士）者多达60余人，其中成为国民政府院士的有梅贻琦、陶孟和、吴大猷、钱思亮、殷宏章等。
创办南开大学
1917年8月，张伯苓赴美国纽约哥伦比亚大学师范学院进修教育，第二年4月，严修亦去美国考察。二人遍游美国和加拿大，考察各级各类学校，详查其教育体制，访问了许多校长和教师，同时也考察了与教育有关的设施如图书馆、博物馆、教育行政管理机构等，为创建南开大学做准备。
回国后，摆在严修、张伯苓等人面前的第一要务，就是为即将成立的南开大学四处募集所需的大笔资金。据《严修年谱》及《张伯苓年谱长编》，1919年5月之前，严张二人为了筹款，曾赴天津、北京、太原、保定、南京等地奔走，拜见各方军政要员。最终，南开争取到徐世昌、黎元洪、李纯、阎锡山、梁士诒等人的捐款。“五四运动”中被学生火烧住宅的曹汝霖即是南开校董。
除了筹措资金，张伯苓也深知良好的师资对于一所大学的重要性。早在美国考察时，他就聘请了一些留美学生到南开任教，其后还在国内各知名大学招聘教师，承诺提供良好的待遇。
经过多方筹备，南开大学于1919年9月正式开办，招收包括周恩来在内的96名学生，分文、理、商三科。其校训是“允公允能，日新月异”。
张伯苓任校长的南开大学，倡导西式教育以及师生关系，不仅教师大多是在美国留学的青年学者，而且“课程、教科书、实验、实验仪器，包括实验用的蚯蚓，都来自美国”。
此外，在校务管理上，张伯苓也非常尊重教师的意见，他提出了“校务公开，责任分担，师生合作”的办校方针。南开成立后不久，他即建立起师生校务研究会，定期征求教师的意见，后来又印制师生意见书，分议案、理由、办法等项，以期师生对校务积极建议，然后分类讨论，早日实行。而让教师们更为满意的是，南开机构精简、办事效率高。行政人员很精干，都能踏实努力的工作。因此，到南开任教的知名学者越来越多。
对于自己，张伯苓则严格要求。在南开中学，他只取校长的一份薪水。大学成立后，他也只在大学加领三四十元，相当于当时大学毕业生工资的二分之一。而他每次到北京办事，为替学校省钱，总是住前门外施家胡同一个普通客店，每天房费1元。对于捐赠的钱款，他也从不中饱私囊。张伯苓的兢兢业业和勤俭治校，为其赢得了巨大的社会声誉。1919年11月，上海圣约翰大学授予他名誉文学博士学位。
不过，张伯苓因引入西方的话剧，并与学生同台出演，被人批评为败坏“士林传统”，有悖“师道尊严”等。此外，过多重视西方教育而缺乏中国传统人文教育也让其饱受批评。
因为受到批评，张伯苓开始重新思考中国教育的方法，思考如何西为中用，用西式教育办中国事，由此他发展出实业兴学路线。1928年，张伯苓提出《南开大学发展方案》，提出“土货化”方针，并开设不少实用课程：讲演术、办公室管理、售货学及广告学等。当时化工是天津的产业支柱，张伯苓就在南开成立了应用化学系，研究成果无偿地提供给相关厂家，就连远到云南的厂家都来南开求助。
凭借这种实业兴学的路线，20年代后期，南开大学声名鹊起，这也使得南开大学毕业的学生没有失业的。然而，“唯利是从”的“实业兴学”也使张伯苓受到非议。
据说，作为私立大学的南开当时的学费非常高，“一学年90块大洋，连其他费用一年下来要120块大洋，相当于中等收入家庭四五年的收入，一般人上不起。北京大学一年也就30多块大洋。”不过，其账目是完全公开的，放在图书馆里任人查看。张伯苓曾说，谁要是查当月账目，他可以五分钟之内告之。
当然，南开大学的收入除了学费，还获得了蒋介石领导的国民政府的支持和资助。
1930年12月24日，张伯苓为争取南开大学补助费，第一次到南京面见蒋介石等人，蒋爽快地答应了。自1932年起，国民政府开始向南开大学发放补助，1932年和1933年，每年为6.2万元。1934年为14万元加教育部补助4万元，河北省教育厅补助6000元，总计达18.6万元。而彼时南开大学的全年收入也不过40万元。
后来，在南开内迁后，蒋介石等国民党政要亦纷纷捐款予以支持，蒋个人捐赠法币5万元，行政院长孔祥熙、四川省主席张群、第七战区司令长官刘湘等亦慷慨解囊。
在张伯苓成功创办南开大学后，1923年，南开女中成立。同年，大学也由男中校址迁到八里台。1928年，南开小学成立。至此，南开终于成为一所包括四部的系列学校。
战火中的南开
1937年抗日战争全面爆发后不久，平津沦陷，南开校园被侵华日军空军于7月29日炸毁。坊间流传，日军摧毁南开，是因为“南开”二字暗喻“面南而开”，是为帝王之业。当时日军在把南开大学夷为平地之前还开了记者招待会。而当时的张伯苓正在南京向蒋介石寻求经济资助。
听闻南开大学被炸的消息，张伯苓悲痛欲绝。8月1日，时任国民政府主席的蒋介石约见平津教育学术界人士张伯苓、蒋梦麟、胡适等。张伯苓慷慨表态：“南开已被日军烧掉了，我几十年的努力都完了。但是只要国家有办法，能打下去，我头一个举手赞成。只要国家有办法，南开算什么?打完了仗，再建一个南开。”蒋当即安慰张伯苓：“南开为中国而牺牲，有中国即有南开!”这个许诺后来成为张伯苓向蒋介石申请经费时必提的一句话。
其后，张伯苓在接受《中央日报》记者采访时表示：“敌人此次轰炸南开，被毁者为南开之物质，而南开之精神，将因此挫折而愈益奋励。故本人对于此次南开物质上所遭受之损失，绝不挂怀，更当本创校一贯精神，而重为南开树立一新生命。本人惟有凭此种精神，绝不稍馁，深信于短期内不难建立一新的规模，现已在京成立南开办事处。”
不久，南开大学奉命西迁长沙，与清华、北大共同组成长沙临时大学，后到昆明又组成著名的国立西南联合大学。南开中学则西迁重庆，并入张伯苓校长于1936年提前建设的重庆南渝中学，组成战时办学体系。1938年南渝中学更名为重庆南开中学。
在此之时，蒋介石和国民政府同样给予了张伯苓以帮助。据《大师之大:西南联大与士人精神》一书记载，除了在经费上扶持外，从1938年到1946年，蒋两次到南开中学参观，五次拜访张伯苓，还借南开中学大运动场举行阅兵式。
1942年张伯苓患病，蒋介石亦亲往探视。1944年1月，国民政府为褒奖张伯苓终身从事教育，颁发一等景星勋章，以示嘉奖。
而张伯苓则在抗战期间，不论在任何时候，都明确表明自己的立场——“蒋介石是全国的抗日领袖”。他并于1941年加入国民党。
而彼时众多南开学生开始分散，或参军抗战、或西去复课、或观望彷徨、或加入中共，不少南开学生为国捐躯，如在国民政府空军中牺牲的南开校友有记录可查的共7位，其中就包括张伯苓的四公子张锡祜。
抗战后的南开
抗战胜利后，1946年，天津南开中学和南开女子中学（后为第二南开中学）在天津复校，重庆南开中学在渝续办，与抗日战争期间按南开体系承办的四川自贡蜀光中学，形成为南开体系四所姊妹学校。
至于南开大学，因校园被日军炸毁，抗战胜利后张伯苓也无法筹款重建，遂于1946年被国民政府教育部收归国有。1946年4月，蒋介石亲自签署了将南开变为国立大学的文件。这是履行蒋介石答应张伯苓的一个诺言：对于这所大学在1937年7月29日—30日在天津遭受日本侵华军队文化摧残的补偿。同时，核定了三校复员经费预算，迁移旅费70亿元，修建费30亿元(北大10亿元，清华12亿元，南开8亿元)。
1948年夏，张伯苓出任国民政府考试院院长，不久辞去。