大概五年前吧。我认识一位领导，原来是小单位的一把手，活得很滋润。后来上级让他去某个大单位当二把手，他以照顾母亲为由拒绝了。换了另外一个人去，五年后这个人成为集团副总。那位领导还在小单位，再也没有晋升机会了。
你这个问题的条件不充分。大单位与小单位是不是一个集团下面的平级单位，还是两个不相干的单位，两个单位的行业和成长性，两个单位的地位和发展前途，等等，这些因素都要综合考虑。不能简单地用“宁当鸡头不当凤尾”来判断。不同的情况，要不同的分析。（当然了，这是严肃的选人用人问题，哪里有让你挑的好事？就当一个问题来谈着玩吧）
第一，集团公司下面的单位，虽然都是二级单位，但规模、地位、分量都是不一样的。有的单位几万人，有的单位几百人，都是局级单位，但你怎么选？几万人的大单位，都是出集团副总的摇篮，二把手也比小单位的一把手的机会多。你管300人，人家管30000人，锻炼的深度不一样，驾驭能力不一样。再说了，大单位的一把手交流的比较快，二把手有机会升为一把手，从此进入集团副总的选拔视野。小单位，很多都是安置型的。
第二，集团公司部门是小单位，下属的企业是大单位。大单位的二把手，也会提拔到小单位当一把手。如果是集团公司的组织、办公厅、规划计划、财务、核心事业部等这类重要的部门，这是提拔重用。比如，把一个大单位的二把手，提拔到集团公司规划计划部当主任，这是天大的好事，怎么不去？规划计划部虽然只有30个人，当主任不如大单位二把手，那么威风，但这是重要台阶啊，掌握着全集团的投资命脉，你说重要不重要？
第三，如果你从大单位二把手提拔到小单位当一把手，这个小单位就是辅助性的小单位，提职安置的可能性比较大。比如，你从主力二级大单位副总，提拔交流到培训学校小单位当校长，从副局到正局，但明眼人都知道你去养老了。小单位一把手，虽然你说了算，但你掌握的资源，可能不如大单位二把手的百分之一。换作你，你是高兴呢还是不高兴呢。
第四，前不久遇到一个朋友，他主动向集团老总申请，从二级大单位一把手调往小单位一把手。理由是，身体不好，大单位太累了，再加上年龄大了，不想丢了老命。这个小单位在上海，他也是想回家。集团老总批了。外人以为他从大单位到小单位，是不是出事被贬了。他也不解释，这个年龄了，何必太累？自己的命要紧，管别人说啥呢。调到小单位后，天高皇帝远的，工作量减少一大半，什么检查、接待、创一流、争第一的压力，统统没有了。他说，多活几年，比什么都强。
综上，这个提问，条件不充分。即使充分，也要因人而异，个人追求不一样，没有什么标准答案。有人熙熙攘攘皆为利来。有人看淡名利健康至上。仁者见仁智者见智吧。