1954年宪法规定设国家主席,1975年宪法和1978年宪法取消了国家主席的职务。在发生林彪事件和“文化大革命”刚结束不久的大背景下,设不设国家主席是一个敏感的问题。因为当时认为设国家主席是林彪的反党纲领,所以修改宪法时,对设国家主席很有争议。在征求意见中,多数同志认为,可以参照1954年宪法的规定,设国家主席,这样不仅可以对外代表国家,便于国际交往,而且一些问题也好处理,如1978年宪法规定的武装力量由党中央主席统帅、国务院总理由党中央提名等事项,也可以得到顺利解决。另一种意见,不赞成设国家主席,主张由全国人大常委会委员长行使国家主席的职权。
当时,就是否设国家主席问题,专门向中央写了报告,陈述了主张设与不主张设双方的理由,同时大体照搬了1954年宪法设国家主席的条文。中央政治局讨论时,确定还是设国家主席。小平同志说,我们这样大的一个国家,还是需要设国家主席。国家主席对外代表国家。但他提出国家主席的职权要规定得“虚”一点,不管具体事务,不作具体决定,不干涉政府的行政事务。最后按照这个思路对国家主席的职权作了规定。当时也研究过要不要规定国家主席对全国人大及其常委会通过的法律可以退回人大重新讨论决定。有些国家的国家元首有权把议会通过的法律退回议会重新讨论决定。我国宪法最后没有作这样的规定。全国人大及其常委会通过的法律和决定需要由国家主席签署颁布的,就由国家主席签署颁布,没有授予国家主席退回的权力。