获任命为京都所司代，不过在翌年羽柴秀吉的势力扩展至京都后，改仕于丰臣氏。天正13年（1585年），玄以获秀吉赏赐5万石，成为龟山城主。在丰臣政权下，作为京都所司代的玄以负责与朝廷交涉，身为奉行的玄以在天正16年（1588年）亦成功让后阳成天皇行幸至聚乐第。与此同时，玄以亦负责管理治社、管理京都内外区域的民政以及压迫吉利支丹，后来才放宽处理，对基督教採取和平共处的政策。庆长3年（1598年），玄以获秀吉任命为丰臣政权下的五奉行之一。秀吉死后，玄以尽力平息丰臣政权的内部斗争，同时亦反对德川家康发动会津征