Le vrai nom de Gandalf est Olórin, et il est dit être « le plus sage des Maiar » dans la Valaquenta2. Vivant dans les jardins de Lórien, il est particulièrement proche de ce Vala, ainsi que de sa sœur Nienna, « de qui il apprit la patience et la compassion3 ». La Valaquenta nous apprend encore qu'il aime beaucoup les Elfes et se rend souvent parmi eux, invisible.

Lorsque les Valar se réunissent en vue d'envoyer des émissaires en Terre du Milieu pour aider à la lutte contre Sauron, Olórin est choisi par Manwë pour faire partie de cette expédition. Malgré ses doutes, il se joint aux Istari sur l'insistance de Manwë et de son épouse Varda. Il rejoint ainsi les quatre autres membres connus de l'ordre des Mages : Curumo (Saroumane), Aiwendil (Radagast), Alatar et Pallando4.

Olórin débarque en Terre du Milieu vers l'an mille du Troisième Âge. Il est le dernier à débarquer en Terre du Milieu, mais il vient en seconde position dans l'ordre des Istari, derrière Saroumane. Il a des relations privilégiées avec les Elfes, ce qui lui vaut sûrement son nom de Gandalf « Elfe au bâton ». Dès son arrivée, l'elfe Círdan, devinant en lui un être bien plus important que ne le laisse suggérer son apparence, lui remet Narya, l'un des trois anneaux des Elfes. Il a également très tôt l'amitié, le respect et le soutien d'Elrond et de Galadriel, celle-ci ayant notamment souhaité qu'il prenne la tête du Conseil Blanc plutôt que Saroumane, charge qu'il refuse5.

Gandalf ne se limite pas à avoir de bonnes relations avec les Elfes : il parcourt la Terre du Milieu et se fait connaître de nombreux peuples, tissant des amitiés sincères avec des représentants de chacun d'entre eux. Il est notamment l'un des rares Sages à s'intéresser aux Hobbits avant même que l'Anneau unique ne soit entré en possession de l'un d'eux, étant ami notamment avec le Vieux Touque, puis avec Bilbon et Frodon Sacquet.