Nagy hatalmának, ügyesen forgatott szavainak és rendkívüli kézügyességének köszönhetően Hk. 2463-ban a Fehér Tanács vezetőjévé választják. Ennek oka lehet még, hogy átfogóan ismerte Szauron alkotásait. 2759-ben az akkori gondori helytartó, Beren engedélyével letelepedett Vasudvardban. Kezdetben Rohan barátja volt, de nyilvánvalóvá vált, hogy hatalmi tényezővé akar válni és mennyire vágyik a Hatalom Gyűrűjére. Ezért telepedett le Vasudvardban, ugyanis használni akarta az ottani palantírt. Hasonló okokból győzte meg a Fehér Tanácsot, hogy ne űzzék ki Szauront Dol Goldurból, bár amikor erre mégis rászánták magukat, a sikert a Tanács tagjai főképp Szarumánnak tulajdonították (bár Szauron már várta a támadást, és menekülése csak csel volt, hogy Mordor Uraként hamarosan újra felbukkanhasson). Szarumán azt remélte, hogy ha békén hagyják a Gyűrűt, magától is felbukkan.
2953-ban Vasudvard teljes jogú ura lett. Megerősítette az erődöt és védelmére gonosz embereket és orkokat gyűjtött, akik parancsára fosztogatni kezdték a Fangorn-erdőt, hogy fáit a fegyverkohók fűtőanyagának felhasználják. Egyúttal kémkedni kezdett Gandalf után, ügynököket tartott Bríben és a Megyében. 3000 körül kezdte használni a palantírt, és így Szauron csapdájába esett. Ettől kezdve, hiába hitte, hogy szabad, már a Sötét Úr irányította. 3010-ben Szarumán parancsára Kígyónyelvű Gríma Théoden, a rohani király bizalmába férkőzött, aki a király unokaöccsét, Éomert száműzte, Rohan védelmét más módon is akadályozta, és egyéb, Orthanc céljainak megfelelő cselekedetekre bírta a királyt. Szarumán azzal hitegette Grímát, hogy ha segít neki Nyugatvég felprédálásában, megkaphatja Éowynt, a király unokahúgát. Gríma már korábban is szemet vetett a lányra, de mivel Théoden udvarmestere volt, nyugton kellett maradnia (azonban 3019-ben Gandalf felszabadítja a királyt és elűzi Grímát).
A Fehér Tanácsban tanúsított kétszínű viselkedésével sokszor késleltetett fontos intézkedéseket és eloszlatott amúgy jogos félelmeket, ezért a tanács több tagja, mint Galadriel királynő, és talán maga Gandalf is, gyanakodni kezdett céljai tisztessége felől. Árulása valóban lelepleződött, amikor a jóhiszemű Radagastot eszközként használva, 3018. július 10-ére Vasudvardba csalta Gandalfot, beavatta azon tervébe, hogy színleg csatlakozni kíván Szauronhoz (mert véleménye szerint fegyverrel nem győzhető le); ugyanakkor feltárta előtte, hogy igényt tart a Középfölde feletti uralomra és az Egy Gyűrűre. Bár Gandalfot azzal kecsegtette, hogy osztozik vele az uralomban és a Gyűrűn, a szürke mágus nemet mondott e tervekre, mert tudta, hogy mögöttük Szarumán eluralkodóó félelme bújik meg Szaurontól s ugyanakkor önző hatalmovágya is. Szarumán, aki ekkoriban változtatta meg nevét is Fehér Szarumánról Sokszínű Szarumánra, ezután börtönbe vetette Gandalfot, ahonnan az Radagast és Szélura Gwaihir segítségével nem sokkal később megszökött.