我国认证制度的总体架构，它主要有四个层次：
第一个层次是授权机构或管理机构。依据认证认可条例，国务院认证认可监督管理部门（目前为认证认可监督委员会）为授权机构，授权机构的职能是授权认可机构负责对认证机构的认可，并批准认可的结果；同时管理认证的国际合作和交流。
第二个层次是认可机构。认可机构的职能是制定认可准则并依次开展对认证机构、检查机构、实验室和审核人员的资格认可。认可机构由各个利益有关方面的代表以及一批熟悉业务的专家组成。
第三个层次是从事认证实践的机构和人员，包括认证机构、检查机构、实验室以及从事审核、评审等认证活动人员。所有的机构都应是独立的、具有法人地位的实体，在获得认证资格后开展认证活动。
第四个层次是企业。企业在自愿申请以后，按认证的程序文件接受认证机构的检验、评审以及事后的监督。