帕沃·鲁米参加了1920年比利时安特卫普夏季奥运会、1924年法国巴黎夏季奥运会和1928年荷兰阿姆斯特丹夏季奥运会，共获得9枚金牌和3枚银牌。
    1920年安特卫普奥运会上，鲁米第一次参加奥运会的5000米比赛，在这届奥运会的比赛中，他落后于法国运动员古雷摩特，获得一枚银牌（15分钟）。三天后，鲁米在1万米的比赛中击败了古雷摩特夺得金牌（31：45.8）。在此之后第三天，鲁米在越野项目上再次获胜，同时拿下个人（27：15.0）和团体越野金牌。
    1924年巴黎奥运会上，鲁米迎来了职业生涯中的颠峰（单届5金）——或者说是任何一名田径运动员职业生涯的颠峰。1924年7月10日，鲁米在巴黎创造了奥运会历史上最伟大的壮举之一：他先赢得了1千5百米比赛金牌（3：53.6），两个小时之后，他又在5千米比赛中获得冠军（14：31.2）。两天之后，鲁米顶着巴黎的高温，再次以1分24秒6的优势赢得1万米越野比赛的个人（32：54.4）和团体金牌。第二天，当其他运动员还在恢复的时候，鲁米又在3千米的团队比赛得到金牌。他还曾经希望参加1万米比赛，力争卫冕，但是芬兰随队官员拒绝他的参赛请求。回到芬兰后，愤怒的鲁米在比赛中打破了保持近13年的1万米世界纪录。
    1928年阿姆斯特丹奥运会，在鲁米最后一次参加的奥运会比赛中，他获得一枚1万米金牌（30：18.8）、一枚5千米银牌（14：40.0）和一枚3千米障碍赛银牌（9：31.2）。

    鲁米以其异常出色的成绩引起了众多媒体关注，他受邀参加全世界的各种田径比赛并被国际田联批准为职业运动员，但这也使他失去了参加1932年洛杉矶奥运会并获得职业生涯中第10枚奥运金牌的机会。1973年10月2日，帕沃·鲁米在赫尔辛基去世，享年76岁。