Az évtizedek óta széles körben elterjedt nézet, hogy a szerotonin jelentős szerepet játszik a gasztrointesztinális (GI) funkciók szabályozásában, áttekintésért lásd Gershon és Tack (2007). Ez a hiedelem rengeteg különböző megállapításon alapul. Ezek közé tartozik az a jól ismert megfigyelés, hogy a szervezet szerotoninjának nagy része a bélben szintetizálódik és tárolódik, a bélfalon belül számos különböző szerotoninreceptor jelenléte, valamint az exogén agonistákkal és antagonistákkal történő kezelést követően a bél megváltozott viselkedésére vonatkozó megfigyelések sokasága. A bizonyítékok hegye ellenére azonban a szerotonin tényleges szerepét a GI traktusban őrjítően nehéz azonosítani.
A kudarc oka többek között az, hogy a bélben a szerotonin neurális és nyálkahártya-források egyaránt vannak, valamint a specifikus szerotoninreceptor-altípusok széles körű és átfedő eloszlása. Példaként a Dogiel II. típusú neuronok, amelyek valószínűleg intrinsic szenzoros neuronok (vagy intrinsic primer afferens neuronok Furness és mtsai., 2004) 5-HT3 receptorokat, 5-HT1A receptorokat, 5-HT4 receptorokat és 5-HT7 receptorokat expresszálnak (Neal és Bornstein, 2006). Más myenterikus neuronok 5-HT3 és 5-HT4 receptorokat expresszálnak, és erős bizonyíték van arra, hogy az 5-HT3 receptorok közvetítik a gyors gerjesztő szinaptikus potenciálokat néhány enterális neuronban (Zhou és Galligan, 1999; Monro és mtsai., 2004). Az 5-HT3 receptorokat az intrinsic szenzoros neuronok nyálkahártya-terminálisai expresszálják (Bertrand és mtsai., 2000; Bertrand és Bornstein, 2002), és a szerotonin nyálkahártyán történő alkalmazása az 5-HT3 receptorokon keresztül aktiválja a helyi reflexpályákat (Gwynne és Bornstein, 2007), és ugyanezen receptorokon keresztül fokozza a perisztaltikát (Tuladhar és mtsai., 1997). Így bármely antagonista, amelyet a szerotonin komplex viselkedés során betöltött szerepének tanulmányozására használnak, az enterális áramkör több különböző helyén fog hatni.
A kérdés megválaszolására tett több kísérlet is a nyálkahártya szerotoninnal foglalkozott az egér vastagbélben. A megközelítés a vastagbél nyálkahártyájának sebészi eltávolítása volt egy sztereotip motoros minta, a vastagbél vándorló motoros komplex (CMMC) elemzése előtt, amelyet az 5-HT3 receptorok blokkolása csökkent. Az elképzelés egyszerű: távolítsuk el a nyálkahártya szerotonint, és ha a CMMC-k fennmaradnak, akkor nem függhetnek a szerotonin felszabadulásától a nyálkahártya raktáraiból. Ha a CMMC-k megszűnnek, akkor a nyálkahártya szerotoninjának lehet szerepe. Ez nyilvánvalóan a boncoláson múlik. A teljes eltávolítás elengedhetetlen, de ha a CMMC-ket közvetítő idegi áramkör sérül, akkor a CMMC-k elvesztése nem biztos, hogy a nyálkahártya szerotonin elvesztését eredményezi. Tekintettel ezekre a technikai kérdésekre, nem meglepő, hogy két csoport nemrégiben teljesen ellentétes eredményeket publikált lényegében ugyanabból a kísérleti protokollból. Keating és Spencer (2010) arról számoltak be, hogy a CMMC-k a nyálkahártya teljes eltávolítása után is fennmaradnak, és a műtét eredményességét amperometriával igazolták a maradék szerotonin felszabadulás kimutatására. Fontos, hogy a CMMC-k érzékenyek voltak az 5-HT3-receptor-blokádra, feltehetően az enterális neurális áramkörön belüli szinapszisokban. Heredia és munkatársai (2009) arról számoltak be, hogy a vastagbélnyálkahártya eltávolítása megszüntette a spontán CMMC-ket, de mechanikusan még mindig képes volt CMMC-ket kiváltani, ami megerősítette, hogy az idegi áramkör ép volt. Ez utóbbi megfigyelést azóta Zagorodnyuk és Spencer (2011) is megerősítette. Így maradt a kisebb technikai részletek mérlegelése vagy annak eldöntése, hogy kinek a boncolása a legjobb.
A kép drámaian megváltozott Li és munkatársai (2011) nagyon friss tanulmányával a Journal of Neuroscience-ben. Ők a triptofán-hidroxiláz 1 (TPH1) – a szerotonin nyálkahártya-szintézisének sebességkorlátozó enzimje – és a TPH2 (a neurális forma) kiesésével szelektíven törölték a szerotonint a két lehetséges forrásból. A keresztezések minden korábbi vizsgálattal ellentétben minden szerotonint kiiktattak ; meglepő módon még ezek is életképesek voltak. A TPH1 knockoutok nem különböztek a vad típustól egyetlen mért funkcióban sem, beleértve a gyomorürítést, a teljes bélmozgást és a vastagbél motilitását (üveggyöngy kilökése). Ezzel szemben a TPH2 knockoutok mindegyik funkcióban jelentős változásokat mutattak; a kettős knockoutok megkülönböztethetetlenek voltak a TPH2 knockout egerektől. A TPH1 knockoutokban egy másik mediátor helyettesítheti a szerotonint. A kompenzáló mediátor valószínű jelöltje nélkül azonban elkerülhetetlen az a következtetés, hogy a nyálkahártya szerotonin nagyon kis szerepet játszik a GI-motilitás szabályozásában egérben, míg a neurális szerotonin sokkal jelentősebb szerepet játszhat, mint azt korábban gondolták.
Li és munkatársai (2011) eredményei bizonytalanságban hagyják a szerotonin funkcióját, több népszerűbb szerepkör kizárásával, legalábbis az egérben. Bár nagyon valószínűnek tűnik, hogy a szerotonin felszabadulása a nyálkahártya szintjén ható kémiai és mechanikai ingerek továbbítására szolgál (a legújabb áttekintésért Bertrand (2009)), Li és munkatársai (2011) eredményei arra utalnak, hogy ez nem szükséges a normális működéshez. Talán a nyálkahártya szerotonin csak valamilyen patofiziológiai inzultus, például gyulladás után játszik jelentős szerepet. Másrészt a neuronális szerotoninra egyértelműen szükség van a normális működéshez, bár ennek egy része lehet az enterális neurális áramkörök fejlődésére gyakorolt közvetett hatás. Li és munkatársai (2011) ugyanis szintén kimutatták, hogy az enterális neuronális fejlődés zavart szenvedett a TPH2 knockout egerekben. Továbbá a TPH2 alacsony aktivitású formájának expressziója a Balb/cJ egerekben olyan szinaptikus kapcsolatokkal jár együtt, amelyek finoman eltérnek a C57/Bl6 törzs szinaptikus kapcsolataitól, amely a TPH2 magas aktivitású formájával rendelkezik (Neal és mtsai., 2009).
A nyálkahártya szerotonin szerepe nyilvánvalóan rejtélyes marad és további vizsgálatokat igényel, különösen mivel ez az összes keringő szerotonin forrása. A Frontiers in Autonomic Neuroscience egy kutatási témában a szerotonin periférián betöltött szerepéről szóló széleskörű kihívást szeretne tudományos vitára bocsátani, mind a GI traktusban, mind a vegetatív idegrendszer többi részében. Hamarosan megjelenik egy felhívás az előzetes beadványok beküldésére.