Александр Григорьевич родился 1 января 1883 года.
Окончил юридический факультет Петербургского университета. С 1914 года состоял приват-доцентом кафедры гражданского права юридического факультета Санкт-Петербургского университета. В 1904—1917 гг. — член РСДРП (меньшевик).
Перевёл на русский язык сочинения Каутского, письма Карла Маркса к члену Интернационала Кугельману.
После событий 1917 года стал большевиком. С начала 1918 года работал в Наркомюсте: являлся членом Коллегии НКЮ и заведующим Отделом кодификации и законодательных предположений.

Гойхбарг принимал ближайшее участие в кодификации советского брачного, семейного и опекунского права и был вдохновителем всего советского законодательства. В ноябре 1918 года он докладывал на заседании ВЦИК о проекте Кодекса законов о браке. Председательствовал в комиссии по разработке КЗоТ 1918 г.
Ещё в своих довоенных лекциях по семейному праву для Высших женских курсов сетовал на подчинённое положение женщины в царском Своде законов и призывал к обеспечению действенного равноправия полов.

По формулировке Гойхбарга, одной из задач коммунистического строя является замена частной, индивидуальной, родительской заботы о детях без всяких изъятий общественной заботой о них.
В сентябре 1919 года присутствовал на собрании центральных агитаторов и пропагандистов РКП(б) в помещении московского комитета, когда там произошел взрыв.

«...После Октябрьской революции 1917 г. новому руководству страны, в отличие от задачи отмены прежнего законодательства, не пришлось отвергать теорию семейного права, поскольку она ещё не сложилась. Её предстояло создать, но уже исходя из марксистских представлений о праве. В этом (как, впрочем, и в разработке законодательства) советская власть не могла обойтись без так называемой «старой» юридической интеллигенции. К ней относился и А.Г. Гойхбарг – профессиональный юрист и высокообразованный человек, что для представителей большевистского руководства тогда было редкостью (хотя лично он в ряды РКП(б) вступил только в 1920г.)...»

Профессор юридико-политического отделения МГУ (1919), председатель правового отделения (1923–1925), профессор кафедры частного права (1921–1925) факультета общественных наук. Профессор факультета советского права (1925–1931).
В 1919—1920 годы был членом Сибревкома и заведующим юридическим отделом Сибревкома, а также постоянным сотрудником газеты «Советская Сибирь». Выступал обвинителем на процессе против министров Российского правительства, который проходил в мае 1920 года в Омске.

В 1921 году по предложению В. И. Ленина был назначен председателем Малого Совнаркома. Возглавлял комиссию по подсчету убытков, причинённых Советской России войной и международной блокадой. Председателем комиссии сначала был В. Г. Громан, а затем — А. Г. Гойхбарг.

В институте имени Сербского сделали вывод (акт судебно-психиатрической экспертизы от 20 января 1948 года), что Гойхбарг является психопатической личностью с параноидальным развитием, осложнённым артериосклерозом головного мозга; в результате Гойхбарг был признан невменяемым. Решением ОСО НКВД его отправили на принудительное лечение. С января 1948 года по декабрь 1955 года находился на принудительном лечении в Казанской тюремной психиатрической больнице.
Умер 1 января 1962 года в Москве, урна с прахом захоронена в колумбарии Донского кладбища.

В 1930—1940-х годах — на юрисконсультской работе в Наркомате внешней торговли.
В 1947 году был арестован по обвинению в антисоветской агитации. После заключения врачебной комиссии от января 1948 года, в котором указали, что Гойхбарг страдает маниакально-депрессивным психозом с параноидной окраской и нуждается в стационарном лечении, был отправлен на судебно-психиатрическую экспертизу в институт им. Сербского для определения его вменяемости.