Tato část článku není dostatečně ozdrojována, a může tedy obsahovat informace, které je třeba ověřit.
Jste-li s popisovaným předmětem seznámeni, pomozte doložit uvedená tvrzení doplněním referencí na věrohodné zdroje.
Poom zahájil svou kariéru v klubech Tallinna Lõvid a Flora Tallinn. Následovala krátká angažmá ve Finsku a Švýcarsku. V roce 1994 podepsal smlouvu v Portsmouthu, kde však během svého ročního působení odehrál jen čtyři utkání. Další dva roky pak strávil na hostování ve Floře Tallinn. V roce 1997 přestoupil do Derby County FC v Anglii, kde strávil dalších šest sezon a odehrál 146 utkání v Premier League. Po sestupu Derby County z nejvyšší soutěže přestoupil do anglického Sunderlandu. Během tří let v tomto klubu však odehrál pouze 58 utkání, a to především vinou častých zranění. V tomto působišti se mu rovněž podařilo vstřelit branku. V roce 2005 přestoupil do Arsenalu a byl členem širšího výběru i při finále Ligy mistrů v roce 2006 proti FC Barcelona. V květnu 2007 přestoupil do Watfordu, kde ukončil aktivní hráčskou kariéru.