Йоаким Груев е роден на 9 септември 1828 г. в Копривщица. Начално образование получава в родния си град. Учи по модерната за времето си взаимоучителна метода, разпространена от друг виден възрожденец - Неофит Рилски. Между годините 1844 и 1847 г. учи в Пловдив в гръцко класно училище. По това време вече има две български класни училища. Едното е построено през 1843 г. в гр. Елена. Известно е като "Даскаловница". Именно то се оказва и първото класно училище в България, но за него друг път. Второто българско класно училище е основано пред 1846 г. в Копривщица. Така или иначе Йоаким учи в Пловдив, но след това през учебната 1847/48 г. вече е в Копривщица и се учи при гореспоменатия Найден Геров. В тези години обаче Н. Геров заминава за Пловдив, където основава още едно българско училище. На негово място идва да учителства Йоаким Груев. Последният става главен учител.

През 1856 г. обаче и Груев отива да преподава във вече съществуващото Герово училище - "Св. св. Кирил и Методий". Там отново замества Геров, който става руски вицеконсул в града. До 1868 г. Груев е в училището, което между другото най-вероятно започва традицията да се чества паметта и делото на светите братя Кирил и Методий - празник, който днес отбелязваме и на 11 май, и на 24 май.

Между 1868 г. и 1870 г. е помощник на управителя на Пловдивския окръг. Окръжният управител е наричан тогава мютесерафин. По време на Априлското въстание (1876) е изпратен на заточение в Диарбекир заради клевета. Впоследствие е освободен с помощта на българи в Цариград. До Освобождението (1878) е в османската столица под полицейски надзор, а след Освобождението се връща в Пловдив.

Изпълнява редица държавни административни длъжности в различни периоди от живота си: председател на Съдебния съвет и на комерческия съд, директор (министър) на народното просвещение на Източна Румелия между 1879 и 1884 г., член-съветник във Върховния административен съд, пом. княжески комисар в Пловдив, когато се случва Съединението на Княжество България с Източна Румелия през 1885 г., директор на държавната девическа гимназия в Пловдив между 1887-1893 г. През 1881 г. става дописен член на Българското книжовно дружество (днес Българска академия на науките). От 1884 г. вече е и редовен член.

Груев е един от онези възрожденци-просветители, които се грижат с душа и активност за образованието на българите както преди Освобождението, така и след него, но в Източна Румелия, което, естествено, не прави заслугите му по-малко значими. Занимава се с училищно дело, издаване на ред учебници на български език, един от строителите на българския книжовен език с издаване на ред граматики.

Той е и един от основателите на пловдивската езиково-правописна школа. Тази школа е една от трите школи в българските земи, които се стремят към най-високата цел: да дадат книжовен език, на който българите да се образоват и развиват. Възрожденецът се занимава и с типичните за много просветители писане на статии по важни за българите въпроси и отпечатването им в българския периодичен печат от периода на Възраждането, както и с активна преводаческа дейност, което позволява на по-широк кръг от българи да се докоснат до постиженията на чужди народи, като френския, руския и пр.

Почива на 1 август 1912 г. Днес домът му в Пловдив, където живее и брат му - Георги Груев се намира в Пловдив на ул. "Христо Г. Данов", № 33. Сградата е строена 1886 г.

• Една забележителна пловдивска улица
• Енциклопедия на българската възрожденска литература. Съст. И. Радев. В. Търново: Изд. „Абагар“, 1996.