1962年，畢業于清華大學，分配在中國電子科技集團公司第五十四研究所工作，先后擔任技術員（1962年—1966年）、工程師、高級工程師（1981年）、研究員級高級工程師（1987年）。

1990年—1999年，孫玉擔任第五十四研究所科技委主任。

1995年，當選為中國工程院院士，隸屬于信息與電子工程學部。

1999年，擔任中國電子科技集團公司第54研究所首席專家組長，同年擔任國家國防科工局科技委委員。

2002年，擔任中國人民解放軍總參謀部通信科技委顧問。

2003年，擔任中國電子科技集團科技委常務委員。

2005年，擔任信息產業部電子科技委委員。

2006年，擔任中國人民解放軍總裝備部科技委兼職委員。

2008年，擔任廣州廣聯數字家庭產業技術研究院院長。

2010年，擔任國防電信網絡重點實驗室科技委主任。

2011年，擔任國家住建部城市物聯網研究院專家委員會主任。2011年，擔任中國人民解放軍總政治部全軍領軍人才帶教導師。

孫玉長期從事戰略兵器試驗系統及軍事戰略通信系統研制工作。作為主要成員承擔了中國第一顆原子彈試驗遙控系統設備研制，中國第一代火箭試驗遙控系統研制和中國第一代洲際導彈飛行安全控制系統總體設計。作為技術負責人或總設計師主持了超遠程散射數字傳輸系統研制、中國第一代程控交換技術攻關、中國第一代ISDN試驗/試用網總體設計、三峽工程通信網總體設計、軍事戰略通信總體設計和發展規劃。

發表論文和撰寫報告100余篇；出版《數字復接技術》等專著6部。 ^[2] 

1983－出版專著《數字復接技術》,人民郵電出版社；

1985－出版專著《數字網傳輸損傷》,人民郵電出版社;

1988－出版編著《數字網專用技術》,人民郵電出版社；

1990－出版專著《數字復接技術(再版本)》,人民郵電出版社；

1991－出版專著《數字網傳輸損傷(再版本)》,人民郵電出版社；

1994－出版專著《RDHforTelecommunicationNetwork》（IPC. Graphics. U.S.A）

2007－出版專著《電信網絡總體概念討論》,人民郵電出版社；

2007－出版編著《數字家庭網絡總體技術》,電子工業出版社；

2008－出版編著《電信網絡安全總體防衛討論》,人民郵電出版社；

2009－出版編著《應急通信技術總體框架討論》,人民郵電出版社。

1991年，獲國務院政府特殊津貼和證書

1995年，當選中國工程院院士。

西安電子科技大學通信工程學院通信與信息系統學科（081001）教授、博士生導師，廣東工業大學信息工程學院碩士研究生導師（科研方向：數字家庭和小區通信網絡）。廣州廣聯數字家庭產業技術研究院和信息工程學院小區網絡課題研究組。 ^[2]