Mati Erelt sündis 12. märtsil 1941 Tallinnas. Ta õppis Tallinna Polütehnilises Instituudis ja seejärel Tartu Riiklikus Ülikoolis, mille lõpetas 1965. aastal. Ülikooliõpingute ajal kuulus ta Huno Rätsepa juhitud generatiivse grammatika rühma.

Erelt kaitses kandidaadiväitekirja 1971. aastal ja doktoriväitekirja "Eesti adjektiivide süntaks" 1981. aastal.

1965. aastast töötas Mati Erelt Teaduste Akadeemia Keele ja Kirjanduse Instituudis (praegune Eesti Keele Instituut) algul bibliograafina, siis nooremteaduri ja vanemteadurina ning alates 1989. aastast grammatikasektori juhatajana. Väga olulise tööna valmis sel ajal "Eesti keele grammatika", mille süntaksiosa ilmus 1993. aastal.

Aastatel 1991–1995 oli Erelt külalisprofessor Helsingi Ülikoolis, seejärel alustas ta tööd Tartu Ülikoolis eesti keele professorina. Seal lõi ta grammatikauurimises aluse funktsionaal-tüpoloogilisele suunale ja tegutses selle nimel, et eesti keeleteadust maailmale paremini tutvustada.

Ta õhutas looma keelekorpusi ja tegelema korpusepõhise keeleuurimisega. Erelt emeriteerus professori kohalt 2006. aastal, ent jätkas vanemteadurina ülikoolis kuni 2012. aastani ja tööd uue eesti keele grammatika valmimise nimel kuni viimase ajani. Sealjuures oli tähtsamaks teetähiseks koos Helle Metslangiga toimetatud "Eesti keele süntaks", millest suur osa oli Mati Erelti enda kirjutatud. Töö uue eesti keele grammatika nimel päädis 2023. aasta lõpus, mil trükki läks uus 14 autoriga "Eesti grammatika".

Aastatel 1997–2006 oli Mati Erelt Emakeele Seltsi esimees.

Erelti elutöö oli eesti keele grammatika uurimine ja kirjeldamine. Tema nägu on kõik viimase aja suuremad grammatikakäsitlused, sh õpikud (nt "Eesti keele käsiraamat" ja mitu gümnaasiumiõpikut), nendib ülikool oma järelehüüdes. "Ta oli paljude praeguste grammatikauurijate juhendaja. Tema rolli eesti keele uurimisel on raske üle hinnata."

Mati Erelti ärasaatmine toimub 20. oktoobril kell 12 Tartu Ülikooli aulas.