在二级市场上,国债期货交易开始走向活跃,回购交易品种不断增加，并促进了国债现货市场的发展。但1995年由于我国对国债的监管不力,国债市场中的违规交易事件频频发生,该年5月,国债期货交易被迫暂停。
1996年是国债市场发展取得诸多突破的一年，1996年国债发行品种走向多样化，对短期国债首次实行了贴现发行方式,并新增了最短期限的3个月国债,还首次发行了按年付息的1年期长期国债和7年期附息国债。该年.发行的国债以记账式为主,逐步使国债走向无纸化。在二级市场上,中国人民银行首次向14家商业银行总行买进2.9亿元面值的国债,使公开市场操作正式启动。但1997年国债发行中以承购包销方式发行占当年发行规模的82.87% ,以招标方式发行仅占15. 88% ,且国债品种减少,主要集中在2 ~5年期国债上,不可流通国债份额增大,占近70% ,国债二级市场的整体流动性下降。国债二级市场出现了银行间债券市场与非银行间债券市场相分离的变化。2001年在国债一级市场上，我国分别在银行间市场和交易所市场发行了一期15年期和两期20年期的长期国债,这是我国债券史上第一次发行真正意义上的长期国债,而且这些长期国债所采取的半年付息一次的利息支付方式也是与国际惯例接轨的做法。该年，国债二级市场引进了净价交易机制，银行间债券市场于2001年7月2日起正式实行了债券净价交易。
2002年4月份净价交易在交易所的实施,价格和利息的分离促进了交易所市场的流动性和活跃性增强。紧接着进人银行间市场成员实施备案制以及柜台交易系统的出炉，表明国债利率市场化进程加快,此时银行间市场的?与者结构发生变化，进人银行间市场的门槛已降低,各类金融机构可以直接向中央国债公司和同业拆借中心申请办理债券业务。同时,启动国债柜台交易,打通了中小企业和个人投资者进人债券市场的通道。2003年,在国债- -级市场上,国债发行创新步伐逐渐加快，价格招标、美国式招标等引人国债发行市场。2004年作为财政部品种创新的延续，旨在增强银行间和交易所市场联动性的跨市场国债的发行得到进一步加强,并且买断式回购在交易所市场的正式推出,促进了债券市场做空机制的完善。