北魏孝昌二年（526年），高洋出生于晋阳，据说其母娄昭君怀孕的时候，每夜都有红光笼罩于居室，娄昭君为之感到奇异，因此在高洋出生后给他取鲜卑名为“侯尼于”，意思就是“有相子”。其父高欢早年参加杜洛周起义军，归顺葛荣，成为亲信都督。后叛降尔朱荣，并收编六镇余部，青州流民起义。当时高氏家徒四壁，其母娄昭君与一家人没有生计，为生活而担忧。高洋当时还没有学会说话，竟然说出了“得活”二字，娄昭君及左右之人吃惊地说不出话。高洋幼时其貌不扬，沉默寡言，其实“神彩英畅，言辞敏洽”，公明刚断，雄才大略，虽常被兄弟嘲笑或玩弄，但其才能甚得父亲高欢的欣赏。高洋的韬光养晦，不仅成功化解了高澄对他的猜忌、保护了自己，也几乎瞒过所有的臣僚。

东魏孝静帝天平二年（535年），高洋被授为散骑常侍、骠骑大将军、仪同三司、左光禄大夫、太原郡开国公。孝静帝武定元年（543年），又加侍中，次年，迁移为尚书左仆射、领军将军。之后高洋一直被其兄高澄把持下的东魏朝廷重用。武定五年（547年）正月，其父高欢去世，高澄接手朝政，高洋被授为尚书令、中书监、京畿大都督，高澄、高洋兄弟牢牢把握住了东魏的政权。

武定七年（549年），年仅二十九岁的大丞相高澄被他的厨奴刺死，事出仓猝，朝中一片混乱。这时，23岁的高洋挺身而出。当时的高氏臣僚对高洋基本上都是心存轻视，然而，高洋在平叛时所表现出来的临危不乱、镇静从容，以及随后的一系列措置，让那些轻视他的臣僚大吃一惊。十月，高洋以咸阳王坦为太傅，潘相乐为司空。十一月，吐谷浑遣使来邺城朝贡。南朝梁的齐州刺史茅灵斌、德州刺史刘领队、南豫州刺史皇甫慎等都献城归附。十二月，他又以并州刺史彭乐为司徒，太保贺拔仁为并州刺史。高洋雷厉风行，一方面亲自指挥卫队，搜捕刺客，“自脔斩群贼而漆其头”；另一方面亲理朝政，大小军事之事，井然有序。混乱的政局马上又得到了控制。魏孝静帝元善见只好封他为丞相、齐王。高洋的器识才具，实不在其兄高澄之下，而就忍辱负重、韬光养晦等性格涵养来说，则明显强过高澄。诚然，高澄也表现出相当高的才能与智慧，但他锋芒过于外露，谋事尚欠周密，以至于功亏一篑，在谋划大事之夕竟猝死于区区膳奴之手。