阿鲁浑萨理曾在世祖、成宗两朝为官二十多年，曾担任集贤大学士、尚书右臣、平章政事等重要官职。他为官期间，每日都为国事操劳，未曾有一宿安稳休息过，有时一日被皇帝召见三次。他在皇宫里与皇帝讨论天下事务，但是，他的妻子从未听到他在家中议论国事。有时，一项政策出台，没有人知道是他策划的。有时，有人诬陷他，他也不为自己辩解，皇帝也不怀疑他。

公元一二八四年，阿鲁浑萨理建议设置集贤馆，劝世祖采用儒术治理天下，访求江南博学之士，使宋朝遗臣为元朝所用。于是，元世祖采纳他的建议，下达求贤诏书，派遣使臣去江南访求博学之士。他又建议设置国子学，增设博士弟子，以儒学培养人才，提高元朝官员的素质。一二八六年他被擢升集贤大学士，第二年升迁为尚书右丞。

阿鲁浑萨理受重用以后，招致一些人的妒忌。一次，司天监的刘监丞向元世祖進谗言，说他在太史院工作，经常借自然灾异影射朝政。元世祖深知阿鲁浑萨理的为人，要以诽谤大臣的罪名查办刘监丞。阿鲁浑萨理听说以后连忙上朝劝阻：“刘监丞对我不满，这是私事。陛下如果将劝谏的人治罪，以后恐怕没有人再敢直言得失了。”世祖因此免除了对刘监丞的处罚，感慨地说：“这才是长者的气度啊!”

公元一二八七年，世祖起用桑哥主持财政事务，以阿鲁浑萨理做副手。阿鲁浑萨理主张实行汉法，反对桑哥的横征暴敛。他一再向世祖陈述利害，但没有被采纳。权臣桑哥专权时，世祖任命阿鲁浑萨理辅政。阿鲁浑萨理坚决拒绝，世祖生气，不同意他的请求。桑哥为政残暴苛刻，任用奸佞之臣，正直善良的大臣受到排斥。桑哥后来又设立了征理司，负责征守苛捐杂税，层层盘剥，敲骨吸髓。许多人交不起赋税，被投入监狱，监狱人满为患，百姓怨谤四起，怨声载道。当时京城发生地震，阿鲁浑萨理极力劝谏世祖，地震是因为赋税沉重百姓怨言太重而导致的。世祖听从了他的劝告，于是下诏罢黜了征理司，废除沉重的赋税。诏书下达之日，京城的百姓欢呼雀跃，饮酒庆贺，街市的酒被抢售一空。桑哥对阿鲁浑萨理更加不满，多次弹劾阿鲁浑萨理，但阿鲁浑萨理不为之生气。

公元一二九一年，桑哥因紊乱朝政，贪脏枉法，被罢官治罪。临刑前，桑哥对阿鲁浑萨理说：“我只因为不听你的劝告，才落得如此下场！”世祖知道阿鲁浑萨理无罪，下诏将查封的家产归还给他。皇后听说他廉洁正直，赐以金帛，他坚决拒绝。

元世祖晚年，为立皇储之事犹豫不决，便想听听阿鲁浑萨理的意见。阿鲁浑萨理建议立铁穆耳为皇储。世祖采纳了他的建议，立了皇储。这时很多官员都前来投附铁穆耳，唯独不见阿鲁浑萨理的身影。铁穆耳直到即位以后，才明白正是阿鲁浑萨理的建议才使他得以即位的，不禁为阿鲁浑萨理深沉宽容、识大体的气度所折服，对他更加敬重和信任了。