謝無奕性粗強。以事不相得，自往數王藍田，肆言極罵。王正色面壁不敢動，半日。謝去良久，轉頭問左右小吏曰：“去未？”答雲：“已去。”然後復坐。時人嘆其性急而能有所容。

　　殷中軍為庾公長史，下都，王丞相為之集，桓公、王長史、王藍田、謝鎮西並在。丞相自起解帳帶麈尾，語殷曰：“身今日當與君共談析理。”既共清言，遂達三更。丞相與殷共相往反，其余諸賢，略無所關。既彼我相盡，丞相乃嘆曰：“向來語，乃竟未知理源所歸，至於辭喻不相負。正始之音，正當爾耳！”明旦，桓宣武語人曰：“昨夜聽殷、王清言甚佳，仁祖亦不寂寞，我亦時復造心，顧看兩王掾，輒翣如生母狗馨。”

　　顧長康畫謝幼輿在巖石妙。人問其所以？顧曰：“謝雲：‘壹丘壹壑，自謂過之。’此子宜置丘壑中。”