徐兢祖上原籍建州甌寧(今福建建甌),曾祖徐爽遷居和州歷陽(今安徽和縣),並落戶於此。
徐兢出身官宦世家,自曾祖起,徐家代代為官。父親徐閎中,官至朝請大夫、直秘閣。
宋哲宗元祐六年(1091年)五月八日 ,徐兢生於鄂州江夏(今湖北武漢江夏區),當時鄂州水漫城郭,時任州法曹的徐閎中將全家安置在黃鶴樓,當日夜裡,徐兢降生於樓內。
徐兢自幼喜好書畫,穎異不群,受人器重。十八歲時,進入太學,雖然學業出眾,但每參加解試,成績卻不理想。
宋徽宗政和四年(1114年),以父蔭補將仕郎,授通州(今江蘇南通)司刑曹事。尚書郎徐禋(yīn)措置東南九路銅事,辟舉徐兢為幹辦公事,當時桂州有個叫黃麟的,自稱可使大理國入貢,徐禋命徐兢前去查證,徐兢到後詰問大理山川故實,黃麟不能應對,於是辨明其詐。
後為開封府雍丘(現河南杞縣)縣令。當時,有兄弟“長年訴訟,久拖不決”,徐兢就讓手下設一席案,讓兄弟倆每天坐臥在一起,吃飯也在一個鍋里。沒幾天,兄弟二人就感悟了,抱頭痛哭說:“這是長官教化我們,我們願意改過自新。”徐兢因此在雍丘樹立威望,全邑治安由此大好。
京西轉運使召集兩百逃兵為自己修築府邸,這些人為害縣中,侵擾百姓,徐兢將其全部收押。轉運使聞聽此事,親自帶人闖進牢獄,要放出他們。徐兢說:“地位不論高低,都應遵從法律,否則就犯了欺君之罪,欺瞞君主而取悅他人,我不忍心這么做。”於是帶人堵住牢獄的出路,歷數他們的罪行,沒有一個人得以逃脫,因此聲譽大增,遠近聞名。
後為鄭州原武(今河南原陽縣原武鎮)縣令,前任縣令貪虐病民,徐兢到任後則關懷備至,深受民眾愛戴。燕國公鄭居中感慨道:“如果縣令都像徐兢那樣,天下怎能不大治呢?”後丁母憂,服除,監元豐庫。
宣和四年(1122年),高麗睿宗王俁去世,徽宗特派給事中路允迪、中書舍人傅墨卿等人前去弔唁,以加強與高麗的聯繫。當時,高麗請求“願得能書者至國中”,希望書畫能人到高麗交流,擅長書畫的徐兢就被選中成為隨使。
宣和五年(1123年)二月,徐兢以國信使提轄官,隨使高麗,啟程前,他們特地前往同文館學習出使高麗的注意事項,以及當地的風俗習慣。宋徽宗還專門安排人為這個使團建造了兩艘“神舟”,用以“震懾夷狄”,這艘大船到達高麗後,引得高麗人“傾國聳觀,歡呼嘉嘆”。三月十八日,一切就緒,宋朝使團由明州(今浙江寧波)起航,經過黑山島,到達禮成港(今韓國仁川),六月抵達高麗國首都開京(今朝鮮開城)。沿路之中,徐兢處處留心各地的山川形勝、風俗習慣等。
使成回國後,於宣和六年(1124年)六月著成《宣和奉使高麗圖經》一書,進於宋徽宗,其序自述“漢張騫使月氏,十有三年而後歸,僅能言其所歷之國地形物產而已。臣在高麗月余,館有兵衛,出才五六。至於馳驅車馬之間,獻酬尊俎之上,耳目所及,非若十三歲之久,而其建國立政之體,風俗事物之宜,繪畫紀次殆無遺者,非敢矜博洽飾浮剽,以塵上聽,蓋摭其實,庶幾報器使之萬一。”徽宗覽後大悅,召徐兢問對於便殿,賜同進士出身,知大宗正丞事,兼掌書學,後遷刑部員外郎。
宣和七年(1125年)四月,蔡京被罷免,徐兢因其父與蔡京相善,被貶知池州(今安徽池州)永豐監。後丁父憂,起為沿江制置司參謀、主南京(今河南商丘)鴻慶宮事,後落職奉祠於台州崇道觀。
晚年於信州弋陽(今江西弋陽)治圃數十畝,名曰洗硯池,幽靜聞名江南,自號自信居士,奉祠二十餘年,安於退隱,無可動心之事。
宋高宗紹興二十三年(1153年),徐兢回曆陽祭祖,歸途中病故於蘇州吳縣(江蘇蘇州),年六十三。
工諸體書法,尤擅篆書。亦善山水人物畫。