Narodil se 11. srpna 1799 na rodinném statku blízko francouzského městečka Saugues. Již od ranného dětství ho uchvacovala nejen příroda ale i technika. Možná právě proto studoval v letech 1819 až 1824  na polytechnické škole v Paříží a později pak přijal místo praktického inženýra. Součástí jeho studia byly také přírodní vědy, a tak není divu, že byl později povolán ke dvoru Jindřicha, hraběte ze Chambordu (vnuka Karla X.) jako učitel matematiky a přírodních věd.

V té době vše nasvědčovalo tomu, že se bude věnovat výchově prince a že později získá postavení, které by mu umožnilo klidný život pod záštitou královského dvora. V červenci 1830 ale byli Bourboni z Francie vyhnáni a Barrande, jenž byl existenčně závislý na královském dvoru, rovněž musel opustit rodnou zemi. Nejprve se francouzský král uchýlil do Skotska, ale později se přestěhoval do Čech, a to na zámek Buštěhrad, který královskému dvoru zapůjčil rakouský král Ferdinand V. Nakonec ani zde Francouzi příliš dlouho nepobyli, neboť v roce 1832 je cholera vyhnala na Pražský hrad.

A právě v Praze se Barrande velmi rychle seznámil s tehdejšími českými učenci – Františkem Palackým a Kašparem Štenberkem, a tak v roce 1833 odešel od královské rodiny a osamostatnil se. V letech 1835 až 1845 bydlel v domě „U tří hvězd“, v Praze na Malostranském náměstí. Načas se vrátil ke svému původnímu povolání, když byl prostřednictvím Kašpara Štenberka pověřen posouzením projektu prodloužení pražsko–lánské koňské dráhy. Tato, v pořadí druhá stavba tohoto typu v Čechách, měla propojit Prahu s Plzní. Součástí Barrandovy práce bylo i terénní měření, při němž získal poznatky o otiscích zkamenělých živočichů z okolí Skryj a Týřovic. Zdejší zkameněliny nebyly ale první, které na českém území objevil. Ty našel již v roce 1833 při procházce pod Dívčími hrady u Zlíchova.

Barrandeho však nezajímal pouze sběr zkamenělin, ale zajímalo ho i složení vrstev hornin, ze kterých zkameněliny pocházely. Proto, aby podrobně zjistil jejich geologické složení, procestoval v letech 1840 až 1846 celé střední Čechy. V těchto letech objevil řadu nových nalezišť, na základě čehož dospěl k názoru, že co do bohatství se českým nalezištím žádná jiná nevyrovnají. V tomto výzkumu zúročil i to, že vystudoval techniku, neboť velký důraz kladl právě na přesnost a fakta. Ta začal postupně shromažďovat a třídit, nikdy je však nepovažoval za dostatečná k tomu, aby bylo možno změnit názory na přírodu.

Časem mu začal být jeho byt malý, a tak v roce 1845 se přestěhoval do nového empírového domu v Chotkově ulici, kde mu jeho bytná Barbora Nerudová, matka básníka Jana Nerudy, našla dostatečně velké apartmá. V následujícím roce začal o zkamenělinách a českých prvohorách publikovat první články v Lipsku a ve Vídni. Jeho zápisky z té doby jsou plné náčrtků paleontologických nalezišť a geologických profilů.

V roce 1852, ve svých třiačtyřicetiletech, vydal první svazek svého díla o českých prvohorách Systeme Silurien du Centre la Boheme, v němž popsal české trilobity tak dokonale, že rázem vzbudil zájem a ocenění všech tehdejších přírodovědců. Toto dílo, které čítá celkem 22 svazků, nebylo dosud překonáno. Má přes 6000 stran, 1160 litografických tabulí a popsáno je v něm celkem 3557 druhů zkamenělých organismů z českých prvohor.

Zajímavé je jistě i to, že pro názvy některých živočichů si vybíral česká slova. A tak vznikly například Vlasta, Bohemica, Sláva, Šárka, Královna, Panenka, Synek či Tetinka. V roce 1881 tato tvorba skončila. Tehdy bylo v Bologni rozhodnuto, že všechny názvy nalezených zkamenělin musí mít pouze latinské či latinizované názvy.

Dokončení svého díla se bohužel Barrande nedočkal. V posledním roce života se jeho zdravotní stav stále zhoršoval (obtížně chodil a stále hůře slyšel). Velkou ránou pro něj byla také zpráva, že u Vídně, ve Frohsdorfu zemřel jeho bývalý pán, Jindřich Chambord. Odjel na pohřeb, ale z Vídně se již do Čech nevrátil. V nevytopeném pokoji se nachladil a musel ulehnout. Jeho poslední slova byla: „Pán můj nebe mi kázal. Půjdu za ním“. Zemřel 5. října 1883. Veškeré své dílo, sbírky, nákresy a zápisníky věnoval Národnímu muzeu v Praze, kde jsou k vidění dodnes.

Svou prací položil Joachim Barrande základy ke studiu prvohor a ke studiu vývoje života v tomto geologickém období, čímž proslavil Čechy a jejich hlavní město po celém světě. Pražané se mu za to odvděčili tím, že významný geologický profil nedaleko Malé Chuchle pojmenovali jeho jménem – Barrandovská skála a později pak i celou městskou čtvrť – Barrandov. Na ocenění nezapomněli ani geologové. Ti zase po něm pojmenovali část Českého krasu – Barrandien.