他向东行到徐州之后，献帝下诏任华歆为豫章太守。在太守任上，他为政清静不烦扰百姓，所以官吏百姓很感激拥戴(以至于扬州刺史刘繇死了，整个扬州民众共推华歆为刺史。华歆因为没有皇命，赴任不是人臣的合适做法加以拒绝。

但民众竟在豫章太守府外守候了几个月，最终还是被他婉言劝回)。孙策占领江东后，华歆知道他善于用兵，于是整理衣冠欢迎其到来。孙策知道华歆有德有才且年长于自己，故此待以上宾之礼。

孙策死后，曹操在官渡上书皇帝调华歆到许昌做官。孙权不想让华歆离开，华歆对孙权说：“您(因为能)遵奉皇帝之命，这才能与曹公结下友谊，但这份友谊还不牢固。让我去那边为您加深，岂不更好?您留我是养一个无用之物，这不是好办法。”孙权听了很高兴，于是答应送他入京。(听说他度进京赴任)宾朋好友及昔日同事千余人都赶来相送，并赠送了“数百金”的巨额钱物。

华歆是来者不拒，暗中却在赠金上作了标记。临行之日，他把那些全摆出来，对送行者说道：“本来没有拒绝诸位馈赠之心，所以收受的礼品很多。想着我这次是孤零零地单车远行，本来是无罪之身，但怀藏壁玉就有被杀的理由，望宾朋好友为我想(一个万全)计策。”(谁也没有保证他带着沉重的金银珍宝上路，而十分安全的计策)，众人只好收回原来的赠予，并佩服他高尚的道德。

华歆到京师后，被封为议郎，兼司空军事，后升任尚书，又转升侍中，再代荀彧为尚书令(相当于副丞相)。曹操证讨孙权时，奏请献帝任命华歆为军师。魏国建立后(曹操受九锡封为魏王)，任御史大夫。