罗尔纲转到中公后，深受胡适的影响，学业上的进步很快，他在一封给胡适的信里回忆说：“去年（即1929年）春天，开学礼时，校长那一番演说：‘一个大学生能够在学校里用功的，将来到社会上去才会成为一个良好的器皿。没有一个在现代成名的人不是在大学时候（不）用功的；也没有一个在大学时代荒唐的人会在社会上站得住的。现在，社会渐渐上了轨道了，那些靠着机会的侥幸者是必然地要没落了，真才实学的人是不会被社会遗弃的。你们愿意做哪一种人，你们自己去选择吧’。学生当时听了校长这一番的教训感动得眼泪也流下来。就为了校长的训诲，学生低着头呆干去。就在那个学期成绩侥幸列在最优等五名内，蒙学校免费了。学生现在渐渐爬上一条研究的路，都是校长的赐与啊？”从一个学生的进步历程，可看出当时中公的学术风气是跟以前大不一样了。由于罗的用功求学深得老师的喜爱，将要毕业时，程仰之、杨鸿烈二位老师对他说，希望能继续再深造读研究院。但环境不许，罗想上北京进大学研究院，或是到北京图书馆。但他没有办法，最后求助于老师沈从文，请他跟校长胡适说说，介绍一个工作。沈欣然允请，写了一个介绍信给胡适，说：“罗尔纲同学，同我说想做点事，把一点希望同我说过了，特意写给先生。”同时，罗也写信表示自己的志愿，希望胡适能帮找一个“不用口只用手”如编辑所内的校对，或图书馆的职员的工作。胡适当时正需要助手整理书稿，认为罗是合适人选，于是征求意见；罗大喜过望，很快回信说：“学生能够到校长家去工作去念书，实在做梦也没有想到。”并称，大约6月20号就考完毕业试了，学生很愿意即刻搬到校长家去，可以得早一点校长的训诲。罗后来在胡适家做助手兼任家庭教师，前后五年时间，曾写有一本《师门五年记》，详述他治学的经历及其师门受教之心得。这书不仅具有学术价值，更是一本感人肺腑的传记文学作品。胡适在序言里说：“尔纲这本自传，据我所知好像是自传里没有见过的创体。从来没有人这样坦白详细的描写他做学问经验，从来没有人留下这样亲切的一幅师友切磋乐趣的图画。并称我很早就看重尔纲这种狷介的品行。我深信凡在行为上能够‘一介不苟取，一介不苟与’的人，在学问上也必定可以养成一丝一毫不草率不苟且的工作习惯。”
罗尔纲后来由胡适介绍转入北京大学文科研究所考古室工作。1937年春出版《太平天国史纲》颇受时人好评。之后专门研究“太平天国”，著作甚丰，成为这方面的学术权威，享誉海内外。胡适晚年在台湾曾自己出钱把这本流传不广的《师门五年记》印出来，不作卖品，只作赠送朋友之用，表示对友人的怀念，并引以为自豪。
此外，中公在理科优秀学生中还有一位女生吴健雄，后来在国际上成了著名的物理学家，胡适也是时常引以为自豪的。他回忆说：“吴健雄是中国公学学生，成绩特别好。在我班上得了100分”。胡适在中公除兼任文理学院院长外，并兼课两小时讲文化史。因选课的人很多，所以总是在大礼堂上课。吴此时虽学的是理科，但按学校规定是要兼学文科的，这是胡适的主张。胡适将文学院与理学院合并为文理学院，其目的在于打通文理两科，提高学生质量。后来吴到美国留学在一次申请奖学金时，学校要她学过文科的证明，她没有，因中国公学后来毁于中日战争，成绩单要不到。于是写信回国请胡适出具证明。她说：“我不是一定要得这奖金，只觉得太委曲了。我在中公费了一年多的时间，读了不少文史和社会科学的功课……”后来胡适寄去了证明，所以他记得清楚得了100分。这类事情胡适办过许多。一次，中公学生周楠差一年毕业，但成绩优秀，已满学分，要出国留学，要求文凭，胡适非常同情和爱惜这个学生，便欣然挥毫写了一个证明给他，并对他说在国外证明书的效力并不比文凭差啊！后来这位学生又遇到困难，大使馆要经济担保人，他便去找校长，胡适满口答应，满足了他的要求。最后很严肃地说：“许多外国人歧视我们中国人，索取保证书就是一例。所以你出国后一定要注意一言一行，日后为振兴中华作出应有的贡献。”这位学生1986年回忆此事时说：胡校长为我写证明的情形犹历历在目。他提携后进，助人为乐的崇高品德，使我终身难忘。
胡适当校长标榜“无为而治”，但在一些他认为对提高教学质量有帮助的事，经常是亲自出马处理。比如，他在课堂上积极鼓励学生写作与讲演，这是他当学生时的经验，受益匪浅，因而非常重视。所以当学生们组织演讲比赛时，他便亲自到会担任评判员，并以切身的体会进行指导。中公为此重视训练学生，提高他们思维与表达能力。这在我国教育史上是个创新。此外，他对学校的体育也是很重视的，他认为体育不单是锻炼身体，而且还可以培养人的道德精神。为此曾手撰运动会歌，鼓励大家奋勇争先前进，歌词云：
健儿们大家向前，
只一人第一，
要个个争先。
胜固然可喜，
败亦欣然，
健儿们大家上前。
健儿们大家齐来。
全体的光荣，
要我们担戴。
要光荣的胜，
光荣的败，
健儿们大家齐来。
这首歌词明白如画，给人以清新优美的感觉。然其词意颇为深远，鼓励人们乐观向上，要人们有合作的精神。他在中公一次运动会上曾致开幕词说：“运动会是一种教育，是一种训练，不是一种游戏。不但是体育，还是德育，不单是体格上的训练，又是道德上的训练。”接着对运动会的意义作了解释，他说：大家都在跑，而得奖的只有一人。这其中有合作精神：假如平时成绩使我们知道这回的锦标一定是属某人的了，难道我们都不跑不跳了吗？不。大家都得加入。有了我们的加入，他才有第一；没有我们的陪衬，他单身一个人算不得第一。他得他的第一，我们得我们的训练。他的光荣，便是我们的光荣。最后他以“祝诸位人人有光荣的胜，人人有光荣的败！”来结束他的讲话。从上所述可看出胡适对体育的重视，其意不仅要人们锻炼身体，更重要的是要人们注意道德上的训练，克服个人狭隘观念，而培养合作的思想意识。
胡适在中公除每星期到校上课一次外，偶尔也到学校作公开演讲，指导学生如何读书和做学问；有时也通过写文章来表达自己的见解。比如当时他作《治学的方法与材料》一文就是一例。在这篇文章他首先从理论上阐明自然科学的重要性。接着用中西近300年学术发展史来作对比，说明中国向故纸堆方向发展其结果在文史方面取得很大成绩，如考证学、古音学、校勘学之类也出现了一些大学者，如顾炎武、阎若璩、戴震、钱大昕、王念孙等人。而西方的发展却偏重在自然科学方面，于是出现了许多科学家，如伽利略发明望远镜、牛顿发明微分学等等。胡适说他们方法是相同的，材料却完全不同。顾炎武研究的材料是文字；伽利略的材料是宝物，结果是人家的科学走在前面，而我们却落伍了。所以他说单学一个方法是不够的，最重要的关键是使用什么材料，“现在一班少年人跟着我们向故纸堆去乱钻，这是最可悲叹的现状”。希望多学点自然科学与技术，那是一条活路。等在实验室里有了好成绩，然后拿出余力回来整理国故，那时一拳打倒顾亭林，两脚踢翻钱竹汀有何难哉！综观上述，可见胡适对整理国故的思想，这时有所变化。这可能是他周游列国后见到列强科学发达、蒸蒸日上，而自己国家还似老牛破车在爬行，故觉悟到自然科学之重要，需要改辙易行。所以才有如此的主张。此外，在治学方面，他提出：“为学要如金字塔，要能广大要能高”的口号，要求从博大精深方面发展。这些思想后来都是很有影响力的，上面那两句话，后来在教育界成为格言而流传下来。鼓舞着学生去努力学习。据现在安徽合肥大学任教的周楠回忆他当年在中国公学听胡适讲演时就提到这句话。他说，胡适讲什么题目，我记不清楚了，中心思想是“为学要如金字塔”。他提倡研究学问必须把基础打扎实，学的东西尽可能博一些，多一些。只有自己有了广博的知识，然后深入钻研，才能获得牛顿的成果。这些教导，我至今仍铭记在心。可见其影响之广泛。
胡适受命于“中公”危难之际，当了近两年的校长，使奄奄一息的一所大学振作起来，学校秩序安定，教学质量有了提高，学习空气也浓厚了，并培养了一批优秀学生，后来在学术界都是很有成就的。这些成绩的取得，显然跟胡适及中公的教师们的辛勤耕耘分不开的。
