竹下内閣時代に、時の
経世会の
小沢一郎内閣官房副長官と出会い、その後も小沢と歩調を合わせた猪突猛進の言動で、
大宮敏充の
デンスケにちなんで通称「デンさん」ないし「デンスケ」等と呼ばれた。
第2次海部内閣改造内閣時代の1991年1月24日に決定された
湾岸戦争への90億ドルの資金供出には、小沢
自民党幹事長と共に
石油税と
法人税の一時的増税で賄ったのに始まり、主計局長在任中の
宮沢内閣時代に、小沢自民党幹事長、
牧野徹建設事務次官(のちに
小泉内閣で
内閣総理大臣補佐官)らと練り上げた「
国際貢献税」構想を打ち出し、その後の非自民の連立
細川内閣時代においても、連立政権のエンジン役を務めた小沢と共に「
国民福祉税」構想をぶち上げた。これは1994年2月2日深夜に
細川護煕首相自らテレビで発表したもので、
消費税を3%から7%に増税、使途も福祉目的とするものであった。名称も
国民世論の反発も考慮した細川政権を支えた当時の非自民各党の意向を踏まえたものであったが、国際貢献税、国民福祉税両方とも、大蔵省の裁量による増税が可能だったことも手伝って内外から強い反撥を浴びて撤回となった。このような強引な政治手法は閣僚からも批判され、国民福祉税では
武村正義官房長官など連立政権内部での合意が得られてなかったことから、その後の細川連立政権崩壊の引き金となった。
1994年、
自社さ連立政権下
村山内閣が誕生し、
自民党が
与党に復帰。斎藤次官ら
主計局は増減税一体案を提出。これに対して時の蔵相・武村正義が分離案を固持、
新党さきがけが
税制大綱への
行財政改革明記による改革案を提示し対立。斎藤と共に「SKコンビ」と呼称された通産事務次官の
熊野英昭と共に、両省の思惑も絡みながら協働して主だった政界関係者の間を動くが、時の
住専処理など一連の「大蔵スキャンダル」も噴出し、
村山内閣時代に次官を辞任した。その後も
篠沢恭助が戦後最短で次官を辞任するなど「斎藤組」らの主計人脈は冷遇をかこった。時の
加藤紘一自民党幹事長らは増減税一体案を維持するも、国民福祉税構想のぶち上げ方など一連の小沢・斎藤らの強引な手法を危惧し、小沢路線に乗っかると国民世論の反発を買うとして篠沢の次の次官に
小川是を後押ししたとされている。