1988年我国的国债市场开始初步形成[2]，政府开始尝试通过商业银行和邮政储蓄的柜台销售方式，向广大城乡居民发行实物国债，开始出现了国债一级市场；为确保柜台销售的成功，国债期限缩短到2年和3年，利率为6%（单位）和10%（个人）。根据国务院关于预算赤字不能向中央银行透支的决定，财政部开始向商业银行等金融机构发行国债，即所谓财政债券，作为弥补预算赤字的手段；同时，商业银行等各类金融机构逐步成为购买国债的主体。1988年4月，国债流通转让试点在沈阳、哈尔滨、上海、重庆、武汉、广州和深圳等7个城市同时进行。1988年6月，国家又批准了全国54个大中城市进行国债流通转让试点。中国国债二级市场（即柜台交易市场）初步形成。

1989年开始通过柜台销售发行保值国债。1988年下半年，由于零售物价指数比上年同期上升26%，出现了严重的通货膨胀现象，政府实行了“强行着陆”的宏观调控政策，中央银行采取了一系列紧缩性的货币信贷政策并对储蓄存款实行保值。为此，1989年财政部通过柜台销售方式首次发行了一笔保值（即浮动利率）国债；并把3年期国债利率提高到14%，以确保国债顺利发行。

1991年开始采用承购包销方式发行国债。从1989年第四季度起，由于通货膨胀得到控制，为启动处于低谷中的经济，1990年3月、8月和1991年4月连续三次大幅降低利率。这为促进1990-92年的国债发行，和1991年开始采取承购包销方式（利率仍由国家制定）发行国债奠定了良好的基础。1991年底以柜台交易为主的二级市场基本形成。1990年12月上海证券交易所开业，标志着交易所国债市场的建立；1991年初国债流通转让业务扩大到除西藏自治区以外的全国所有地、市级以上的城市。1991年底，北京证券交易中心首次开办回购业务，国债回购交易产生。这样，以场外柜台交易市场为主、场内集中交易市场为辅的国债二级市场格局基本形成。

针对1992年下半年国民经济出现的集资、投资、股票和房地产等经济过热现象，中国政府在1993年6月采取了加强宏观调控的紧急措施，以确保经济稳定增长；1993年5月、7月和1995年1月连续三次提高利率，并从1993年7月起恢复保值储蓄。1993年，为保证按时完成国债发行任务，财政部在两次提高国债发行利率、实行保值并延长发行期的情况下，最后采取行政分配方式发行国债。1994-95年，财政部采取承购包销和柜台销售结合的方法，首次推出了凭证式国债并采取保值措施。

我国在1993年建立了一级自营商制度，并于1995年2月允许全国性大型商业银行加入。1994年，中国进行重大财政金融体制改革为商业银行持有国债扫清了政策障碍，成立了三家政策性银行，商业银行与政策性银行彻底分离。同时，财政预算出现的赤字不能再向中央银行借款，必须完全依靠发行国债予以弥补。

国债期货交易于1993年推出并在1995年关闭。1993年初，上海证券交易所开办了国债期货交易，丰富了国债交易品种和方式，对促进国债发行和推动国债市场具有重要作用。但是，在1995年2月底，当92年3年期保值国债接近到期时，围绕保值贴补率和到期价格的确定，买卖双方展开激烈较量，导致“327国债期货”重大违规事件的发生。1995年5月，国债期货交易被暂停。

这个一阶段的主要特点是：发行方式逐步由柜台销售、承购包销过渡到公开招标；二级市场格局逐步由场外柜台交易向场内集中交易转变；期限品种基本上以3年期和5年期为主；经济运行状况对于国债发行的难易和二级市场能否正常运作，具有较强的制约作用。

1997年6月，全国银行间国债市场正式形成。[3]根据国务院的指示，中国人民银行于1997年6月发出通知，要求所有商业银行全部退出证券交易所国债市场，同时开办全国银行间债券市场，商业银行持有国债全部转由中央国债登记结算公司托管；要求商业银行不能再购买和持有国债。从当时情况看，这既是为了防止商业银行资金通过国债回购及现券交易进入股票市场，也是贯彻商业银行、证券公司和保险公司实行分业经营和分业管理的需要。国债市场形成了两个相互分离的市场：全国银行间国债市场和上海证券交易所国债市场。

1996年12月中央国债登记结算公司成立。由于1993-95年经济过热时期出现的国债买空和卖空现象，以及虚开实物国债代保管单盗用国家信用的严重问题，与缺乏一个统一、安全、高效的国债登记托管系统有着直接的关系，因此我国政府从1994年下半年起就开始考虑建立统一的国债登记托管系统。经国务院批准，财政部和中国人民银行于1996年底决定将北京证券交易中心改组为中央国债登记结算公司。该公司的成立，为全国银行间债券市场的建立和中国国债市场的规范化发展，提供了关键性的基础设施和必要的技术支持。