虽然雄性如何选择交配对象一直都是社交行为中被重点关注的问题，但科学家还未能从分子和细胞作用机制上解释哺乳动物性取向。

北京大学生命科学学院院长饶毅教授课题组通过研究发现，神经递质五羟色胺（5-HT，又称血清素）在哺乳动物性取向中具有重要作用。野生型雄性小鼠的正常性取向为雌性，虽然缺少中枢血清神经元一般不会导致小鼠嗅觉和信息素感应功能出现缺陷，但小鼠的性取向会因此丧失。该研究通过将大脑中5-HT合成过程中首要的色氨酸羟化酶2（Tph2）从小鼠中敲除，以考察5-HT的作用。在实验中，研究人员往小鼠体内注射适量5-羟基色氨酸（5-HTP）（该物质可在没有Tph2的情况下将5-HT恢复到野生型小鼠的正常水平），35分钟后，Tph2被敲除的小鼠性取向仍未改变。研究人员由此得出结论，在成体大脑中的5-HT和血清神经元对哺乳动物性取向具有调控作用。