В основе различения членов своей и чужих семей лежат химические факторы, так как насекомые различают представителей чужой семьи, даже если они мертвы. Было показано, что члены очень небольших групп способны научиться узнавать друг друга по запаху. Например, пчелы Lasioglossum, семьи которых состоят из матки, сторожей и нескольких сборщиц, не заимствуют никаких характерных запахов из окружающей среды; поэтому сторожа допускают в свое гнездо только что вышедших из куколок пчел из любого другого гнезда, однако через два дня после появления на свет у этих пчел появляется особый запах, присущий данной семье (Barrows et al., 1975). Сторож может помнить свою товарку по гнезду по крайней мере 7 дней, но через 12 дней забывает ее. Матка может выполнять любые работы, но она плохой сторож, и первая из ее дочерей (если в семье нет самцов) принимает на себя функции сторожа, блокирует входное отверстие, а в случае необходимости вступает в драку с врагами или с представителями собственного вида, относящимися к другим семьям (Breed, Gamboa, 1977; Breed et al., 1978). Сторожей вводят в их роль примерно в двухдневном возрасте. В процессе своего рода привыкания или импринтинга, способность к которому связана с возрастом, они научаются подавлять стремление к атаке, когда они ощущают запах своей матки, а несколько позже - запах своих сестер. В лабораторных условиях они не допускают в пробирки ни одну пчелу из чужой семьи, кроме молодых особей возрастом менее суток; по-видимому, именно через сутки экзокринные железы пчел начинают испускать свой характерный запах. Сторожа, которых содержали в изоляции в течение пяти дней, а затем возвращали в пробирки, не допускали в них даже собственных сестер, опять-таки, вероятно, потому, что они не знали их индивидуальных запахов и не могли признать в них родичей. Однако в другом случае степень признания со стороны сторожей коррелировала со степенью родства, и они распознавали своих сестер, хотя никогда прежде с ними не встречались (Greenberg, 1979). По-видимому, запах данной пчелы детерминирован генетически, а не приобретается в жизни, и сторожа, однажды выучив запахи своих товарок по гнезду, могут распознавать и их родственниц (Hölldobler, Michener, 1980). Позднее пчелы не только узнают друг друга как индивидуумов, но и различают по роду активности - как фуражиров, сторожа или матку. Даже самцы могут запоминать запахи отдельных репродуктивных самок (Barrows, 1975).
В семьях, состоящих из сотен или тысяч особей, нельзя ожидать индивидуального узнавания, если речь не идет о единственной самке или нескольких самках. Здесь существуют только три возможности: 1) особи получают некоторую смесь химических веществ от окружающих объектов; 2) они получают ее от своей самки (самок); и 3) у них есть собственный запах, присущий секретам их желез и унаследованный от родителей. В первом случае запах может быть пищевого происхождения, будучи связан с экскрементами или дыхательной системой, или он может быть обусловлен пахучими почвенными грибами или другими находящимися поблизости микроорганизмами. Во втором случае он может исходить от самки (самок) и передаваться другим особям через кутикулу и даже с потоком пищи; при этом каждая семья будет обладать смешанным запахом, полученным непосредственно от самки (самок) или через других рабочих особей. В третьем случае экзокринные железы рабочих особей вырабатывают пахучий секрет, детерминированный их генотипом. Поскольку такой секрет наследуется от обоих родителей, он должен быть более изменчивым, чем запах, полученный от самки (Crozier, Dix, 1979). Для того чтобы узнавание могло иметь место, все члены данной семьи должны нести хотя бы по одному общему аллелю в каждом из локусов, определяющих запах (а таких локусов может быть много). Если только запахи не смешиваются, то каждая рабочая особь должна научиться узнавать весь спектр фенотипов, которые может создать одна родительская пара; это возможно у Lasioglossum, но как будет обстоять дело в более крупных семьях, которые к тому же могут быть полигинными?
Наиболее изученное общественное насекомое - это моногинная медоносная пчела (Apis mellifera), но даже здесь ситуация не ясна. У входа в улей стоят сторожевые пчелы, и они чрезвычайно точно распознают пчел из чужих семей, пытающихся проникнуть в гнездо по ошибке или с грабительскими намерениями, и немедленно вступают с ними в схватку. В местах кормежки они оставляют пахучий след, более привлекательный для обитателей их собственного улья, чем для других пчел (Baroni Urbani, 1979; Ferguson, Free, 1979). У блюдечек с сиропом, после того как он высыхает, пчелы из разных семей, обычно живущие мирно, затевают драки (Kalmus, Ribbands, 1952). Они явно умеют распознавать различия между семьями, находясь вне ульев; следовательно, это такие различия, которые фуражиры несут на себе. У входа в улей ноги фуражиров оставляют пахучую метку, состоящую не из секрета тарзальных желез (как у матки), а из выделений желез, расположенных на теле и секретирующих смесь, специфичную для данной семьи. Однако генетическая изменчивость сестер в одном сообществе должна быть значительной, так как в общем у них много разных отцов. Кроме того, пчелы могут приобретать различные запахи. Рабочие особи залетают в другие ульи той же пасеки; эту их тенденцию можно за три года усилить, подкармливая все ульи пищей с одинаковым запахом, или подавить, ставя в разные ульи подкормку с разными запахами (КбЫег, 1955). Кроме того, пчел из различных ульев можно объединить, если делать это постепенно, особенно если придавать корму сильный запах (например, добавляя анисовое семя) и отвлекать чем-нибудь внимание насекомых (скажем, обсыпать их порошком, чтобы заставить заняться грумингом). Семьи из разных районов, перенесенные на вереск (Calluna vulgaris), перестают проявлять враждебность друг к другу (Kalmus, Ribbands, 1952); напротив, если разделить семью на две части и давать им различный корм, а через несколько недель снова объединить, то будут наблюдаться проявления враждебности.
Может быть, пчелы приобретают запах своей матки? Они распознают собственную матку и даже обнаруживают запах метки, нанесенной с помощью краски (Seeley, 1979); если удалить матку, то пчелы узнают об этом через несколько минут. Более того, они примут другую матку только в том случае, если удалить прежнюю, а новую матку вводить постепенно, чтобы пчелы могли привыкнуть к новому запаху или перенять его и распространить по всей семье. Таким образом, экспериментальные данные говорят в пользу того, что у медоносных пчел приобретенные запахи имеют важное значение, хотя главная роль принадлежит специфичным для каждой семьи секретам, переходящим с тела насекомых на их конечности.
У Myrmicarubra семьи, хотя они и полигинные, четко разграничены, и между ними наблюдаются проявления враждебности (Winterbottom, 1981). Чужих рабочих особей члены данной семьи могут узнавать по запаху - для этого не нужны признаки, связанные с движением или вообще с поведением. Характерный для семьи запах отсутствует у личинок и куколок и появляется у молодых рабочих; если они выводятся в чужой семье, то их тем не менее принимают без проявлений враждебности. На первый взгляд это означает, что их запах смешался с запахом рабочих данной семьи. Не исключено, однако, что хотя последние воздерживаются от нападения, они способны отличить этих приемных рабочих особей: если членам той же семьи, которые прежде никогда не встречались с этими рабочими (так как содержались отдельно), представить смешанную группу рабочих, они нападают только на совсем посторонних молодых рабочих, а не на тех, которые были приняты их семьей. Возможно, что постепенность появления запаха у рабочих особей, перенесенных в чужую семью, дает возможность членам этой последней привыкнуть к ним. Однако эти перенесенные в новую семью рабочие, по-видимому, тоже изменяются, так как прежняя семья их уже не принимает! Единственное возможное истолкование всех этих данных сводится к тому, что у таких рабочих особей имеется какая-то генетически детерминированная химическая основа, на которую накладывается приобретенный запах; неопытные рабочие чужой семьи нападают на них из-за этой основы, а неопытные рабочие собственной семьи - из-за приобретенного запаха. Можно лишь утверждать, что "признание" означает всего только привыкание к чуждому запаху, а не отсутствие способности отличать его.
Winterbottom пыталась найти химические вещества, обусловливающие специфичный для семьи запах, но это ей не удалось. Она, естественно, направила свои поиски на дюфуровы железы, поскольку было установлено, что у разных видов Myrmica секрет этих желез содержит различные вещества, и Cammaerts et al. (1981b) показали, что он используется для мечения незанятой территории с тем, чтобы приучить к ней фуражиров и отвадить чужих особей. Вначале этот секрет не обладает чертами, специфичными для данной семьи; такие черты появляются лишь спустя несколько дней, причем нет уверенности в том, что они связаны с дюфуровыми железами. Так или иначе, Winterbottom не смогла обнаружить достаточно определенных химических различий по этим железам между разными семьями; очевидно, для разрешения этой загадки нужно либо использовать более чувствительные методы анализа, либо расширить область поисков. Возможно, что тело покрывается каким-то нелетучим веществом, которое распространяется вниз по ногам, доходя до лапок и оставляя пахучие следы, как у Apis и Vespula (Butler et al., 1969).
Можно было бы думать, что гнездо обладает запахом эндогенного происхождения, который распространяется и по незанятой территории. Если рабочим особям Solenopsis invicta предложить на выбор землю из их собственного гнезда, из чужого гнезда и просто обычную землю, то они начинают копать землю из собственного гнезда (Hubbard, 1974); так же ведут себя рабочие особи Pogonomyrmex badius (Hangartner et al., 1970). Если семью Acromyrmex octospinosus разделить на части, давать этим частям разный корм, а затем снова объединить их, то в поведении муравьев наблюдаются лишь слабые проявления агрессивности, т. е. и в этом случае основной генетически детерминированный запах не может быть полностью замаскирован запахом, приобретенным от пищи (Jutsum et al., 1979). Wallis (1962) в результате своих экспериментов на Formica fusca пришел к выводу, что эндогенные запахи важнее экзогенных; однако Mabelis (1979b), работавший с F. polyctena, наблюдал проявления враждебности в семье этих муравьев, воссоединенной после разделения на две части, одну из которых кормили муравьями Lasius fuliginosus, выделяющими сильно пахнущие терпеноиды, а другую - представителями их собственного вида, но из чужих семей. Рабочие особи Oecophylla longinoda метят территорию специфичной для каждой семьи жидкостью из ректальной ампулы, и это не просто дефекация, производимая вне гнезда. Таким образом, и у муравьев, и у пчел имеется некоторый основной унаследованный запах и приобретаемый поверхностный запах.