La littérature sur la biologie de la conservation contient beaucoup d’informations, en particulier en ce qui concerne l’élaboration de plans de survie des espèces (par exemple, Traill et al. [2007] rapportent qu’une taille minimale effective de la population d’environ 4 000 personnes donnera une probabilité de persistance de 99% sur 40 générations).
Parce que la question mentionne spécifiquement les populations humaines, je vais concentrer ma réponse sur la génétique des petites populations humaines, bien que beaucoup moins d'informations soient disponibles.
Hamerton et al. (1965; Nature 206: 1232-1234) a étudié les anomalies chromosomiques chez 201 individus sur une population totale de 268 habitants de la petite île de Tristan da Cunha. Ces auteurs rapportent des anomalies chromosomiques croissantes ( aneuploïdie; hypo- ou hyperdiploïdie) avec l'âge et suggèrent que cela peut entraîner une diminution de l'efficacité mitotique. On pense que cette population s’est développée à partir d’une population fondatrice de 15 personnes seulement. Selon Mantle et Pepys (2006; Clin Exp Allergy 4: 161-170), environ deux ou trois des colons d'origine étaient asthmatiques, ce qui a conduit à une prévalence très élevée (32%) dans la population actuelle.
Kaessmann et al. (2002; Am J Hum Genet 70: 673-685) présente une étude plus moderne du déséquilibre de liaison dans deux petites populations humaines (Evenki et Saami; ~ 58 000 et ~ 60 000 tailles de population, respectivement) par rapport à deux grandes populations (Finlandais et Suédois; ~ 5 et ~ 9 millions). Les auteurs trouvent une DL significative chez 60% de la population Evenki et 48% des Saami, mais seulement 29% chez les Finlandais et les Suédois.
Lieberman et al. (2007; Nature 445: 727-731) discutent du potentiel de détection des parents humains pour éviter la consanguinité. De tels mécanismes ont été trouvés dans d'autres espèces, «des amibes sociales, des insectes sociaux et des crevettes, aux oiseaux, aux pucerons, aux plantes, aux rongeurs et aux primates». Lieberman et coll. proposent des mécanismes contribuant à la détection des frères et sœurs chez l'homme, y compris «l'association périnatale maternelle» et la «durée de coïncidence». Au-delà de ces signaux comportementaux, les auteurs suggèrent également que des signaux physiologiques tels qu'un complexe majeur d'histocompatibilité jouent un rôle.