Kymmenien vuosien ajan on yleisesti uskottu, että serotoniinilla on merkittävä rooli ruoansulatuskanavan (GI) toiminnan säätelyssä, ks. katsaus Gershon ja Tack (2007). Tämä uskomus perustuu valtavaan määrään erilaisia havaintoja. Näihin kuuluvat tunnettu havainto siitä, että suurin osa elimistön serotoniinista syntetisoidaan ja varastoidaan suolistossa, monien erilaisten serotoniinireseptorien esiintyminen suolen seinämässä ja lukuisat havainnot suoliston muuttuneesta käyttäytymisestä eksogeenisten agonistien ja antagonistien hoidon jälkeen. Todistusaineistosta huolimatta serotoniinin todellisia rooleja ruoansulatuskanavassa on kuitenkin ollut mielettömän vaikea tunnistaa.
Syitä tähän epäonnistumiseen ovat muun muassa se, että suolistossa on sekä neuraalisia että limakalvon sisäisiä serotoniinilähteitä, ja se, että erityiset serotoniinireseptorien alatyypit jakautuvat laajalle ja päällekkäin. Esimerkkinä voidaan mainita, että Dogielin tyypin II neuronit, jotka ovat todennäköisesti sisäisiä sensorisia neuroneja (tai sisäisiä primaarisia afferentteja neuroneja Furness et al., 2004), ilmentävät 5-HT3-reseptoreita, 5-HT1A-reseptoreita, 5-HT4-reseptoreita ja 5-HT7-reseptoreita (Neal ja Bornstein, 2006). Muut myenteriset neuronit ilmentävät 5-HT3- ja 5-HT4-reseptoreita, ja on vahvaa näyttöä siitä, että 5-HT3-reseptorit välittävät nopeita eksitatorisia synaptisia potentiaaleja joissakin suolistoneuroneissa (Zhou ja Galligan, 1999; Monro et al., 2004). Sisäisten sensoristen neuronien limakalvoterminaalit ilmentävät 5-HT3-reseptoreita (Bertrand ym., 2000; Bertrand ja Bornstein, 2002), ja serotoniinin limakalvoon annostelu aktivoi paikallisia refleksireittejä 5-HT3-reseptorien välityksellä (Gwynne ja Bornstein, 2007) ja tehostaa peristaltiikkaa samojen reseptorien välityksellä (Tuladhar ym., 1997). Näin ollen mikä tahansa antagonisti, jota käytetään serotoniinin roolin tutkimiseen monimutkaisen käyttäytymisen aikana, toimii useissa eri paikoissa suolistopiirissä.
Useat yritykset vastata tähän kysymykseen ovat keskittyneet hiiren paksusuolen limakalvon serotoniiniin. Lähestymistapa on ollut paksusuolen limakalvon kirurginen poisto ennen stereotyyppisen moottorikuvion, paksusuolen vaeltava moottorikompleksi (CMMC), analysointia, joka vähenee estämällä 5-HT3-reseptoreita. Ajatus on yksinkertainen: poistetaan limakalvon serotoniini, ja jos CMMC:t säilyvät, ne eivät voi olla riippuvaisia serotoniinin vapautumisesta limakalvon varastoista. Jos CMMC:t poistetaan, limakalvon serotoniinilla voi olla merkitystä. Tämä riippuu selvästikin leikkelystä. Täydellinen poistaminen on välttämätöntä, mutta jos CMMC:tä välittävä hermopiiri on vaurioitunut, CMMC:n häviäminen ei välttämättä johda limakalvon serotoniinin häviämiseen. Kun otetaan huomioon nämä tekniset kysymykset, ei ole yllättävää, että kaksi ryhmää julkaisi äskettäin täysin vastakkaisia tuloksia periaatteessa samasta kokeellisesta protokollasta. Keating ja Spencer (2010) raportoivat, että CMMC:t säilyvät limakalvon täydellisen poiston jälkeen, ja vahvistivat, että leikkaus oli ollut tehokas, käyttämällä amperometriaa jäljellä olevan serotoniinin vapautumisen havaitsemiseksi. Tärkeää on, että CMMC:t olivat herkkiä 5-HT3-reseptorin salpaukselle, oletettavasti synapseissa suoliston hermopiirissä. Heredia et al. (2009) raportoivat, että paksusuolen limakalvon poisto poisti spontaanit CMMC:t, mutta pystyi silti laukaisemaan CMMC:t mekaanisesti, mikä vahvisti, että hermopiiri oli ehjä. Zagorodnyuk ja Spencer (2011) ovat sittemmin vahvistaneet jälkimmäisen havainnon. Jäimme siis pohtimaan pieniä teknisiä yksityiskohtia tai yrittämään päättää, kenen dissektio oli paras.
Kuva muuttui dramaattisesti, kun Li et al. (2011) julkaisivat hyvin tuoreen artikkelin Journal of Neuroscience -lehdessä. He käyttivät tryptofaanihydroksylaasi 1:n (TPH1), serotoniinin limakalvosynteesin nopeutta rajoittavan entsyymin, ja TPH2:n (neuraalisen muodon) tyrmäyksiä poistaakseen serotoniinin valikoivasti kahdesta mahdollisesta lähteestä. Risteytykset poistivat kaiken serotoniinin, toisin kuin kaikissa aiemmissa tutkimuksissa ; yllättäen jopa nämä olivat elinkelpoisia. TPH1:n tyrmääjät eivät eronneet villityypistä missään mitatussa toiminnassa, mukaan lukien mahalaukun tyhjeneminen, suoliston kokonaistransitio ja paksusuolen motiliteetti (lasihiutaleen karkottaminen). Sitä vastoin TPH2:n knockout-hiirillä oli merkittäviä muutoksia jokaisessa toiminnossa; kaksois knockout-hiiret eivät eronneet TPH2:n knockout-hiiristä. Jokin muu välittäjäaine saattaa korvata serotoniinin TPH1:n tyrmäyksissä. Ilman todennäköistä ehdokasta korvaavaksi välittäjäksi on kuitenkin väistämätön johtopäätös, että limakalvon serotoniinilla on hyvin vähäinen rooli hiiren GI-motiliteetin säätelyssä, kun taas neuraalisella serotoniinilla voi olla paljon merkittävämpi rooli kuin aiemmin uskottiin.
Li ym. (2011) tulokset jättävät serotoniinin toiminnan hämärän peittoon, sillä useat suositummat roolit ovat poissuljettuja ainakin hiiressä. Vaikka vaikuttaa erittäin todennäköiseltä, että serotoniinin vapautuminen toimii limakalvon tasolla vaikuttavien kemiallisten ja mekaanisten ärsykkeiden välittäjänä (tuoreen katsauksen osalta Bertrand (2009)), Li et al. (2011) tulokset osoittavat, että tätä ei tarvita normaaliin toimintaan. Ehkä limakalvon serotoniinilla on merkittävä rooli vasta jonkin patofysiologisen loukkauksen, kuten tulehduksen, jälkeen. Toisaalta neuronaalista serotoniinia tarvitaan selvästi normaaliin toimintaan, vaikka osa tästä saattaa olla epäsuoraa vaikutusta suoliston hermopiirin kehitykseen. Tämä johtuu siitä, että Li ym. (2011) osoittivat myös, että suoliston hermoston kehitys oli häiriintynyt TPH2:n knockout-hiirillä. Lisäksi TPH2:n matala-aktiivisen muodon ilmentyminen Balb/cJ-hiirissä liittyy synaptisiin yhteyksiin, jotka eroavat hienoisesti C57/Bl6-kannan synaptisista yhteyksistä, joissa TPH2:n aktiivisuus on korkea (Neal ym., 2009).
On selvää, että limakalvon serotoniinin rooli pysyy arvoituksellisena, ja se vaatii jatkotutkimuksia, varsinkin kun se on kaiken kiertävän serotoniinin lähde. Frontiers in Autonomic Neuroscience haluaisi antaa laajan haasteen tieteelliseen keskusteluun tutkimusaiheessa, joka koskee serotoniinin roolia periferiassa sekä ruoansulatuskanavassa että muualla autonomisessa hermostossa. Alustava ehdotuspyyntö ilmestyy lähiaikoina.