一方1949年にソ連から帰国した後、彼は
東ドイツの支配政党である
社会主義統一党(SED)に入党。その青年団組織であるドイツ自由青年団(FDJ)とドイツ労働者組合連盟に参加し、FDJの中央評議会委員を務める。1954年に党のベルリン地区指導部委員に就任。1958年に人民議会議員に選出され、1990年の東ドイツ消滅まで務めた。1961年、ベルリン・ケペニック地区第一書記。のちベルリン地区党指導部の宣伝担当書記。1967年、党中央委員会委員に選出され、宣伝部で働く。1973年、SED
ドレスデン地区第一書記。1975年に祖国功労勲章、1978年に
カール・マルクス勲章受章。
東欧革命の影響で東ドイツ国内が不穏になっていた1989年10月4日、警察に命じてドレスデンのデモ隊を逮捕させたが(のちに「中央からの指示だった」と釈明)、5日後の10月9日にモドロウは反政府派との対話集会を企画し、党内の改革派と目されるようになる。そのためソ連の指導者
ミハイル・ゴルバチョフの支持を得ることに成功した。同年11月にSED政治局員に選出され、
1989年11月13日に彼は
ヴィリー・シュトフが辞任したことを受けて、後継の首相(閣僚評議会議長)となった。同年12月7日、SED党首の座から
エゴン・クレンツを追放した後、モドロウは東ドイツの事実上の指導者となったが、しかし改名された
民主社会党(SED-PDS)の党首にはならず副党首になった。崩壊寸前の東ドイツを維持するべく、モドロウは市民運動家との対話を試み、2月5日には円卓会議の代表者を無任所相として入閣させた。この内閣は自宅の建つ土地の所有権を認めるいわゆる「モドロウ法」を制定している。
1990年3月18日の人民議会初の(そして最後の)自由選挙後、首相を辞任。