Родился 14 мая 1943 года в Исафьордуре, в семье парикмахера. Отец — Гримур Кристгейрссон, мать — Сванхильдур Олафсдоттир Хьяртар.

В 1962 году окончил гимназию в Рейкьявике, после чего отправился на обучение в Великобританию, в Манчестерский университет, где в 1965 году получил степень бакалавра экономики и политологии.

Он был профессором политологии в Университете Исландии, служил членом Альтинга.

Политическая карьера Гриммсона началась в 1966 году, после вступления в исландскую молодежную организацию "Прогрессивные партии".

С 1970 года — доктор политологии, в 1971—1988 годах — преподавал в Исландском университете.

В 1976 году он стал членом партии левого толка "Народный союз". Первый депутатский мандат он получил в 1978 году, а с 1980 по 1983 возглавлял парламентскую фракцию "Народный союз".

В 1981—1984 годах — член Парламентской Ассамблеи Совета Европы.

В 1987—1995 годах — лидер Партии Народный Союз.

Популярность принесли ему политические передачи на радио и телевидении. Он писал статьи в партийную печать. Став одним из самых узнаваемых политиков в стране, на тот момент председатель партии "Народный союз" Олафур Рагнар Гримссон в 1988—1991 годах занимал пост Министра финансов в правительстве Стейнгримюра Германнссона. Занимая эту должность, сумел добиться значительного сокращения инфляции и считается "отцом экономической стабилизации".

26 июня 1996 года Олафур Рагнар Гримссон был избран пятым президентом Республики и вступил в должность 1 августа. На выборах он представлял Народный союз. За него проголосовали 40.9 процентов избирателей.

В августе 2000 года автоматически остался на следющий срок по причине отсутствия других кандидатов.

Еще через 4 года, в 2004, ему за президентское кресло пришлось побороться, но и в этот раз он выиграл президентскую гонку с результатом 67,5 процентов голосов и таким образом был избран на третий срок.

Стал первым в истории Исландии президентом, наложившим вето на закон, принятый Альтингом.

В 2002 году посетил Россию с официальным визитом. Награжден орденом Святого равноапостольного князя Владимира (II степени) Русской Православной Церкви.

Олафур Рагнар Гримссон был женат дважды. Со своей первой женой, Гудрун Катрин Торбергсдоттир (14 августа 1934 — 12 октября 1998) он познакомился в начале 70-х. После женитьбы в 1974 году у четы Гримссонов в 1975 родились две дочери-близнецы — Далла и Тинна.

Гудрун Катрин была очень популярной в Исландии женщиной. Поговаривают, что избрание Олафура Рагнара Гримссона президентом во многом заслуга его жены. Но в 1998 году семью президента постигло несчастье, первая леди страны умерла от лейкемии.

Спустя 5 лет Олафур Гримссон решился на второй брак. Его избранницей стала урожденная в Израиле Доррит Мусайефф.