2004年12月，根据论坛工作需要，“中阿合作论坛事务中方秘书处”成立。秘书处由外交部西亚北非司、国家发改委能源局、财政部行政政法司、商务部西亚非洲司、文化部外联局、贸促会国际联络部组成，秘书长由外交部西亚北非司司长担任。主要任务是：就落实论坛“行动计划”进行沟通与协调，必要时召集扩大会议；组织论坛重大活动的筹备工作；讨论论坛发展方向和重点合作领域并提出建议。秘书处设办公室，负责论坛日常工作，办公地点设在外交部西亚北非司。

2011年3月，根据工作需要，“中阿合作论坛事务中方秘书处”进行了扩充，增列国务院新闻办二局和对外友协亚非工作部为秘书处成员单位。