La Sezione è stata istituita con decreto del Ministero dell’interno del 27 marzo 1972, ai sensi dell’art. 3 del D.P.R. 30 settembre 1963 n. 1409, ed ha iniziato a svolgere la sua attività dal 1° giugno 1972, alle dipendenze dell’Archivio di Stato di Bologna.
La richiesta di istituzione era stata avanzata all'allora Ufficio centrale per i beni archivistici nel 1970 dal Sindaco di Imola, su proposta di Fausto Mancini, all’epoca Direttore degli Istituti culturali della città. Mancini aveva infatti rilevato la presenza presso la Biblioteca comunale di Imola di archivi notarili, amministrativi e giudiziari di pertinenza statale, rilevanti sia per quantità che per qualità, e per questo motivo si era fatto promotore dell’istituzione di una Sezione di Archivio di Stato, dove avrebbero potuto essere concentrati, a vantaggio dei ricercatori, i fondi archivistici statali, quelli di proprietà comunale ed anche archivi privati di rilevante interesse, come quelli delle famiglie del patriziato cittadino.
La Sezione ebbe inizialmente sede presso la locale Biblioteca, in alcuni ambienti concessi in uso dall’amministrazione comunale. Nel 1987 vennero presi in affitto gli attuali locali di palazzo Dadina, dove però fu trasferita la sola documentazione di pertinenza statale. Da allora l'originario nucleo di fondi archivistici si è arricchito per il trasferimento dall’Archivio di Stato di Bologna di documentazione relativa al territorio imolese, e per alcuni cospicui versamenti da parte dell’Ufficio delle imposte dirette e della Pretura di Imola.