于年龄关系，最终上海的两支球队申花和国际都没有与其签约，他转而加盟南京有有。在南京有有效力第二年开始，由于俱乐部选帅不利，只能让他作为球员的同时还兼任起主教练。2006年，南京有有队在胡云峰的带领下取得了不错的第五名，更奠定了中甲老牌强队的地位。2007年甲级联赛最后一轮，胡云峰上场对阵上海七斗星，创造了一个点球并主罚命中，并就此正式退役，结束自己的球员生涯，成为一名专职的主教练。此时胡云峰已过34岁，在中国足球同时代的前锋中也只有老搭档郝海东能与之相比。2009年11月，胡云峰正式辞职，他执教南京有有