秦以前，民众喜欢用金属玉石雕刻为私人印信，按照个人喜好通常都有龙或者是虎作为装饰。秦以后，政府禁止皇帝以外的人以金玉作为私人印信，皇帝所用的印信被称之为“玺”。前221年，秦始皇灭六国统一中国后获得和氏璧（一说是蓝田玉），秦始皇将其琢为传国玺，替代遗失的“九鼎”作为天子的象征，又命丞相李斯在和氏璧（一说是蓝田玉）上写“受命于天，既寿永昌”八个虫鸟篆字，由玉工孙寿刻于其上，又称之为“天子玺”。秦二世死后，秦王子婴将传国玺献于汉高祖刘邦。王莽篡汉后，向孝元皇太后逼索玉玺，皇太后大怒，掷玉玺于地，摔崩一角，王莽命人以黄金镶补，尽管手艺精巧，但玉玺终究留下缺角之痕。王莽败亡后，玉玺落入更始帝刘玄手中，后来刘玄被赤眉军打败，玉玺落入刘盆子之手，后赤眉兵败，献玺于汉光武帝刘秀处。

周曰校插图版《三国志通俗演义》中的孙坚、袁绍争夺玉玺

东汉末年各路诸侯讨伐董卓时，爆发董卓讨伐战，孙坚军率先攻入洛阳城，《后汉书》、《山阳公载记》、《吴书》、《资治通鉴》皆记载孙坚军进入洛阳后获取传国玺，但后来被袁术夺取，作为称帝的凭据，袁术死后被荆州刺史徐璆携玺至许昌，当时曹操得汉献帝，挟天子以令诸侯，至此玉玺得重归汉室。

《江表传》和裴松之认为孙坚发现传国玺之事为假，《江表传》案《汉献帝起居注》的文字“天子从河上还，得六玉玺于阁上”，又太康之初孙皓投降时送金玺六枚，没有玉，表明孙坚发现传国玺这件事是假的；裴松之认为孙坚在反董义军中最有忠烈之称，若得传国玺而潜匿不言，则为阴怀异志，怎么能称得上忠臣，就算如虞喜所说天子六玺和传国玺不同，孙皓投降时确只有六玺没有传国玺。

虞喜《志林》、赵一清则支持孙坚发现传国玺，虞喜《志林》认为天子六玺和传国玺并不是一个概念，传国玺不在六玺之列，皇帝平时使用六玺办公，并不使用传国玺；赵一清批驳裴松之忽视了范晔《后汉书》中徐璆盗袁术传国玺献给曹操一事，还以吴亡不见传国玺为由反驳是得其一而忘其二。

不论如何，最终传国玺仍从汉室手中传给曹魏，西晋篡魏后，玉玺归晋。

西晋以后传国玺的下落有多种说法：

西晋永嘉之乱后，晋怀帝被俘虏，玉玺归前赵，后赵石勒灭前赵得此玺；其字迹为“受天之命，皇帝寿昌”，后于玉玺右侧加刻“天命石氏”，并于五胡处流传，最后传到冉魏。冉魏因战祸求乞东晋军救援，玉玺又归于东晋。东晋时从五胡处夺回后便流传于南朝。前秦苻坚被姚苌所杀时，玉玺被苻坚所埋藏。北魏太武帝时于泥像中找到二方玉玺，字迹皆为“受命于天，既寿永昌”，其中一方旁边还加注“魏所受汉传国玺”。北齐在侯景败亡后辗转得到他在南朝梁所夺取的“受命于天，既寿永昌”玉玺。

隋朝统一后，传国玺为隋朝所承袭。后来隋炀帝杨广被杀于江都，萧皇后带玉玺逃入漠北突厥处。唐贞观四年（公元630），李靖率军讨伐突厥，同年，萧皇后与隋炀帝之孙杨政道背返归中原，传国玺归到唐朝，至五代十国之后失去踪影。

有关玉玺的失踪之说，现时有多种说法：

五代十国后唐末帝李从珂自焚之时失踪。五代十国后晋出帝被辽太宗在公元946年俘虏时丢失。辽朝保大二年（1122年），辽天祚帝遗失传国玺于桑干河。元顺帝逃回漠北时失踪，元朝皇室曾有玉玺之记录，清朝史料亦有记载，但元编《辽史》并不支持此说法。且清乾隆也否认自蒙古得到的是真正的传国玺。宋哲宗时，曾宣称有人发现了传国玺，送至朝廷，直到靖康元年（1126年），靖康之祸，徽宗、钦宗被俘虏，金兵攻破大梁，“传国玺”也被金兵掠走，从此销声匿迹。

明军攻入元大都，“俘获诸王子6人，玉玺两枚，元成宗玉玺一枚，元朝共11个皇帝，其它皇帝玉玺均没有缴获。” 据《二十五史纲鉴》载：公元1370年5月，明军横扫漠北直捣应昌之时，缴获元顺帝出逃所带到漠北的一批珠宝。其中既没有元朝的诸帝之玉玺，又没有传国玺。

由于传国玺下落不明，明、清两朝均没有传国玺。是故明朝开国时，明太祖朱元璋有三件憾事，其中首件就是“少传国之玺”。

北宋绍圣三年时，农夫段义宣称无意间发现了疑似传国玺的玉印，经十三位大学士依据前朝记载多方考证，认定是始皇帝所制传国玺，但是朝野不少有识之士怀疑它的真伪。靖康之乱时，金兵进入汴京，这块“传国玺”也消失无踪。

明弘治十三年，陕西巡抚熊翀进献白玉玺一方，书小篆“受命于天，既寿永昌”。礼部尚书傅瀚奏曰其不合《辍耕录》所载传国玺受命宝，且人君治天下以德不以玺，高皇作玺亦足以为一代受命之符而垂法万世，请不用此印。明孝宗从其言，藏而不用。

后金天聪九年（明崇祯八年），多尔衮出兵蒙古林丹汗部，苏泰太后持元传国玺出迎并投降，次年皇太极据此称帝，但该玉玺于乾隆时期鉴定为赝品。事实上这方常见于皇太极圣旨的宝玺，印文是小篆文“制诰之宝”，应当是林丹汗仿明朝的“制诰之宝”伪造的，而并非《辍耕录》所载之鸟虫篆文“受命于天，既寿永昌”传国玺受命宝，也非元朝常用的叠篆印玺，一切都是标榜身份正统性的政治操作，此印于乾隆朝废而不用，但后又宝于盛京凤凰楼，为盛京十宝之一。

清乾隆三年，督河高斌进献碧玉玺一方，书鸟虫篆“受命于天，既寿永昌”，雕刻古泽可爱，颇有秦汉古意，与《辍耕录》所载传国玺受命宝也颇为吻合。然清高宗认为此亦非秦传国玺，只是好事者仿古所作，且“即使尚存政、斯之物，何得与本朝传宝同贮，于义未当”，而当作玩物始终未用作国宝。