行为生态学（behavioral ecology）是生态学分支学科。以达尔文的演化论为基础，突出适应的观点，研究动物各种行为特征的演化与其生态环境的关系。基本观点：动物为了达到自身的最终目的，即最大限度地繁衍和遗传自己的基因，必须以最有效的行为方式对付生态环境中发生的一切问题。行为生态学家认为现存的各种动物都是最能适应环境的物种，是适应环境的最佳决策者，为此提出最佳性理论、最佳觅食、竞技理论等观点。并以这些理论为基础，研究各种动物行为，得到了有力的证明。

行为生态学是研究生物行为与其环境的相互关系，研究生物在一定的栖息地的行为方式、行为机制、行为的生态学意义的科学。换句活说，行为生态学是研究生物的行为功能、存活值、适合度和进化过程的科学，是行为科学与生态学交叉，并涉及生理学、心理学、遗传学、进化论、社会学和经济学的学科。行为生态学的一个重要特点是将生态学与行为学、进化论、遗传学紧密结合在一起，并引入经济学思想，探索出了许多新的理论和观念。如进化稳定对策、博弈沦、频率制约、最适模型、经济可保卫性、两性利益冲突、亲缘选择、广义适合度、利他主义等。

行为生态学源于20世纪60年代初期发展起来的4个学术派别：①英国的J.H.Crook和D.Lack把鸟类和猿猴类的社会组织同各种生态因素联系起来加以研究.提出了比较研究法。②W.D.Hamilton和J.Maynard Smith明确提出了亲缘选择(kin selection)和广义适合度(inclusive fitness)的概念，在基因层次上解释了各种利他行为(altruistic behaviour)和自私行为(selfish behaviour)。③N.Tinbergen等用田间试验和观察法确立了测定行为存活值(survival value)和适合度(fitness)的程序，为自然行为的试验观察奠定了坚实的科学基础。④R.H.Macarthur等用精确的数学方法来表达生态学中关于进化的各种假说，这就是数学生态学。其中最适性理论(optimality theory)和进化稳定对策(evolutionarily stable strategy，简称ESS)这两个概念特别适用于行为生态学，并对行为生态学的发展起了很大的促进作用。

我国行为生态学的研究相对国外起步较晚，于20世纪80年代才开始。《生态学杂志》从1984至1990年连续刊载了尚玉昌的行为生态学系列讲座25讲，分别就动物的最优觅食行为、觅食行为的可变性、觅食技巧、捕食与反捕食对策、动物的社群生活及社群生活对种内关系影响、昆虫社会的经济、动物行为热调节、动物的领域行为、栖息地选择、性生态学问题、性选择和配偶选择、动物的生殖合作、动物的信号等有关行为生态的问题进行了详细、系统的阐述，这不但将行为生态学的基本思想、方法、原理引入到了国内，而且极大地推动了行为生态学在我国的发展。在这一时期．尚玉昌还在《生命》《化石》《生物学杂志》《生物学通报》《生态学进展》《应用生态学报》等杂志上陆续发表了多篇文章。分别就昆虫的婚配行为、动物的利他行为及进化、行为学的基本概念、外部刺激、睡眠行为、行为生态学新进展、捕食者一猎物关系等做了阐述；1990年，尚玉昌在马世骏主编的《现代生态学透视》一书中编写了行为生态学章节；1998年，国内第一本行为生态学专著《行为生态学》(尚玉昌)出版．该书全面系统地介绍了现代行为生态学的基本理论、研究方法和研究内容，标志行为生态学在我国的发展有了较系统的理论指导。1999年张树义、万玉玲编著了《动物行为的奥秘》，较系统地揭示了动物在情爱、繁育、社会组织、运动、摄食、特异功能、进化等方面行为的特点和本质，揭开了多种动物神秘行为的面纱，使人们对这些动物的行为有了更进一步的认识。

我国近10多年来在动物行为学、行为生态学方面做了一些初步研究，涉及的领域有：哺乳动物(灵长类和大熊猫)、鸟类、昆虫、两栖类、爬行类和水产动物等。这些多属经典描述性质的研究，如繁殖习性、礼会行为、食性和生活史等。但因为缺乏创新和新观点、新理论的指导，其研究方法和指导思想比较陈旧，而国外在理论和方法上都有较大突破，产生了一些新理论、新观点和新方法。主要有：

(1)ESS理论(进化稳定对策)；(2)比较研究法，即对近缘物种的行为和社会结构与其生态条件联系起来进行比较研究；(3)动物行为存活值和适合度的定量测定法；(4)经济思想和方法(如投资、效益分析)，即行为分析的经济观得到普遍应用；(5)行为分析的基因观(利他行为、亲缘选择和广义适合度)；(6)最适理论和最适模型的运用；(7)博弈论(the theory of games)。它是分析动物行为的一个极有用的理论工具；(8)两性利益冲突的新观点；(9)种群多对策的新概念；(10)3种选择理论，即个体选择、亲缘选择和群选择理论；(11)生活史对策；(12)信号仪式与通信理论；(13)行为、生态、遗传、进化的综合分析方法。

行为生态学主要是研究生态学中的行为机制和动物行为的生态学意义和进化意义，即研究动物的行为功能、存活值(survival value)、适合度(fitness)和进化过程。动物的行为特性与动物的形态特性和生理特性一样，不仅同时受到遗传和环境两方面的影响，而且也是在长期进化过程中通过自然选择形成的，因而同样具有种的特异性。有时，两个在形态上难以区分的物种，却可以通过不同的行为型加以识别。在自然界，行为型也常常是近缘物种的种间隔离和种间辨识的一个重要方面。

行为生态学的研究一般分为四个步骤，通过仔细的观察，提出假设，检验假设，最终有可能预测未来的行为。当然对预测也要进行检验。例如，观察到某些动物集群生活，可以提出两种假说：如果是仅在繁殖期集群，这可能有利于雌雄个体寻找配偶并交配；如果仅仅是在冬天集群，则可能是为了提高捕食机会，或是避免天敌捕杀，或是改变微气候。然后，用以下三种方法来检验上述假说。①比较同一物种的不同个体。群居的个体是否在取食、婚配、躲避天敌等方面优于独居的个体。②不同物种之间的比较。不同物种的进化过程和不同的生态学条件相互关联，物种间的比较可以帮助我们理解其生态学上的差异(如觅食条件、捕食压力)是如何影响到行为的，是如何影响动物的生活方式——是集群还是独立，集群生活发生在哪些有特定取食行为的物种中。③实验方法。本法优于前面两种方法之处在于，它可以通过改变一种生态因素(如集群的大小、食物的丰盛度)，研究行为发生什么变化。

动物行为具有投资和收益的两重性，自然选择使动物最大限度地获得其净收益，这就是行为学中经常遇到的权衡问题。基于经济学中主要的投资一收益分析方法，可以建造最适模型(optimality model)，这种方法已广泛应用于动物的觅食行为、领域行为、生殖行为、双亲行为等方面。

在理论方面，行为生态学的发展将与生命科学的基础学科发展息息相关。动物的行为有遗传基础，如果特定行为的基因定位取得全面进展，将为人们调控动物行为创造条件。那时，人们将能通过生物技术将某一特定行为导入到一类动物中。

高新技术的发展为行为生态学的发展带来了新的契机。多媒体技术的应用将为分解动物行为单元、储存和重演动物行为，找出动物行为的决定因素，最终构造动物行为的理论模型创造条件。遥感、全球定位系统和地理信息系统技术将给野生动物的宏观行为研究带来巨大影响，这些技术给研究人员在全球变化大背景下探讨野生动物的宏观行为适应提供了工具。在21世纪，动物行为生态学将在宏观方面取得突破性进展。

行为生态学的深入研究，必将推动其它学科的发展。首先，由于对动物个体的生存行为机制和繁殖行为机制的理解，将发展个体生态学。不同动物行为对策的进化适应意义带动理论生态学和进化生物学的研究，行为生态学对经典行为学研究提出了更高的要求，人们必须了解不同种类动物对环境的感觉途径和反应机理，才可能了解动物行为适应生态环境的本质。

行为生态学将成为一门重要的应用基础学科，为未来的珍稀濒危动物的迁地保护做出贡献，对特定濒危物种在迁地环境中的行为发育，人工繁育个体放归自然，野生状态下正常生存和繁殖行为的培育提出新见解。迁地保护种群中的个体可能由于行为障碍而不能繁殖；或者由于缺乏行为模板则不能适应野放环境；或者由于繁殖行为、社会行为障碍而不能与野生同种个体交流基因；甚至不能在野外与同类人工繁育的个体交流基因，从而导致迁地保护的失败。另外，在人工饲养环境中不存在自然天敌，如何培育个体识别天敌、逃避天敌的能力，培育是迁地保护的一项重要内容。

另外，行为生态学还将在水产养殖业、动物养殖业、远洋捕捞业和野生动物驯化中发挥指导性的作用，如调节动物的群居行为、摄食行为，探讨动物同步发情的行为规律，增加生物生产力，掌握海洋鱼类洄游规律、增加渔获产量等。野生动物的驯化也离不开行为生态学。野生动物的驯化首先是其行为的驯化。家养环境条件要求野生动物改变行为，一方面，有赖于人工选择，另一方面，有赖于对野生动物在家养环境中的行为发育进行人工诱导。来自实践的研究将为动物行为生态学增添新的内容。