謝安南免吏部尚書還東，謝太傅赴桓公司馬出西，相遇破岡。既當遠別，遂停三日共語。太傅欲慰其失官，安南輒引以它端。雖信宿中塗，竟不言及此事。太傅深恨在心未盡，謂同舟曰：“謝奉故是奇士。”

　　簡文雲：“謝安南清令不如其弟，學義不及孔巖，居然自勝。”

　　桓宣武既廢太宰父子，仍上表曰：“應割近情，以存遠計。若除太宰父子，可無後憂。”簡文手答表曰：“所不忍言，況過於言？”宣武又重表，辭轉苦切。簡文更答曰：“若晉室靈長，明公便宜奉行此詔。如大運去矣，請避賢路！”桓公讀詔，手戰流汗，於此乃止。太宰父子，遠徙新安。