Il primus movens della costituzione di un archivio è quindi l'esigenza di memoria in quanto autodocumentazione.
In questo senso la memoria, per essere conservata, deve essere anche tutelata, protetta e organizzata. L'archivio diventa quindi anche struttura, edificio, si dota di regole e strumenti di conservazione, selezione, trasmissione.

In epoca romana Archivio e Tesoro di stato erano strettamente collegati. Esisteva uno ius archivi, il diritto alla conservazione dei documenti affinchè questi mantenessero la publica fides: tale diritto era strettamente connesso con il potere ed veniva concesso esclusivamente dalla sovranità.
La definizione dell'archivio in epoca romana e durante il periodo medievale è "locus in quo acta pubblica asservantur, ut fidem faciant". In epoca moderna viene aggiunta "ad perpetuam rei memoriam", affermando così il valore della conservazione permanente della documentazione conservata nell'archivio. 
Fino alla metà del 1500 il fine della conservazione dei documenti d'archivio era essenzialmente giuridico (anche se non veniva escluso lo scopo di studio): in seguito gli archivi vengono "scoperti" dalla storiografia, cominciano ad essere interrogati in maniera diversa, diventano oggetto di studio, nascono la teoria e la disciplina archivistica e cominciano a delinearsi quelle che sono le caratteristiche peculiari dell'archivio (per esempio rispetto ad una biblioteca, o ad una raccolta di documenti) e gli elementi costitutivi. 

Ma cos'è un archivio, come lo si definisce? 

Il termine archivio ha sempre una duplice accezione, poichè indica sia il complesso documentario sia il luogo fisico, i locali di conservazione. 
Il concetto di Archivio è però un concetto unitario: le distinzioni che si fanno (archivio corrente, storico, di Antico Regime, ecc) sono puramente funzionali, corrispondenti a necessità di organizzazione e di gestione. 

Molte sono le definizioni che si sono susseguite nello sviluppo della teoria e della dottrina archivistica (vedi la voce "archivio" del Glossario sintetico).

Una per tutte:

"L'Archivio è il complesso di documenti posti in essere nel corso di un'attività pratica, giuridica, amministrativa e per scopi pratici, giuridici e amministrativi, e perciò legati da un vincolo originario, necessario e determinato, e quindi disposti secondo la struttura, le competenze burocratiche, la prassi amministrativa dell'ufficio e dell'ente che li ha prodotti; struttura, competenze, prassi in continua evoluzione e perciò diversi da momento a momento, secondo un processo dinamico continuamente rinnovantesi. L'archivio nasce dunque "involontariamente", ed è costituito non solo dal complesso dei documenti, ma anche dal complesso delle relazioni che intercorrono tra i documenti." (Elio Lodolini, Archivistica: principi e problemi, Milano, Franco Angeli, 1995)

Una costante nelle definizioni è il riferimento al processo di sedimentazione/costruzione spontanea dell'archivio stesso, vale a dire il più possibile fedele e correlata alla vita e alle attività del soggetto produttore della documentazione.
La spontaneità dell'archivio è connessa al concetto di vincolo archivistico che esprime la relazione tra i documenti e la loro connessione logica e formale.
I documenti, infatti, non sono mai nè prodotti nè conservati come identità isolate. 
La formazione/costituzione dell'archivio è sempre connessa con la formazione delle relazioni che si instaurano tra i documenti. 
Le relazioni sono stabili e arbitrarie, anche se non univoche, e sono conseguenza dei modi e delle operazioni adottate dal soggetto produttore nel corso della produzione, accumulazione e conservazione della documentazione relativa alla sua vita/attività. 
In questo senso il vincolo archivistico è naturale, e determina la spontaneità dell'archivio, poichè un documento è sempre parte di un insieme, a livello alto dell'archivio stesso, a livello particolare di sottoinsiemi (i fascicoli, le serie) omogenei per forma o per ambito di utilizzo e formazione documentaria. 

L'archivio è quindi un complesso organico di documenti, che si differenzia dalla raccolta o collezione (v. la corrispondente voce del Glossario) in quanto riflette l'intera attività documentaria del soggetto produttore, i meccanismi e l'ordine di produzione dei documenti, ma anche le carenze, le perdite, ecc. 

Il concetto di spontaneità, di archivio come sedimento spontaneo dell'attività dell'ente si affianca al concetto di "archivio-thesaurus", cioè "deliberata, sistematica e ordinata selezione, costituita sempre per scopi pratico-operativi" (F.Valenti, Riflessioni sulla natura e la struttura degli archivi, Rassegna degli Archivi di Stato, XLI, 1981, nn.1-2-3, pp.9-37). 

Nell'analisi dell'Archivio non bisogna vedere il totale rispecchiamento tra l'Archivio e il soggetto produttore: esiste uno scarto tra la realtà dell'archivio e la realtà storica dell'ente, causato da una serie di fattori e condizionamenti empirici e storico-culturali di cui sono oggetto i processi di documentazione, in primis il rapporto con il potere ("i documenti sono l'immagine che il potere sceglie di conservare di se stesso nel futuro", Isabella zanni Rosiello, Archivi e memoria storica, Bologna, Il Mulino, 1987). 

L'Archivio è ormai ufficialmente un "bene culturale", non perchè conserva tutto, "ma perchè rispecchia, nella conservazione e nell'eliminazione, i criteri e i valori di una data cultura - limitata nel tempo, nello spazio, e addirittura nelle classi e nei ceti - la quale ha voluto cancellare le vestigia di azioni prodotte a volte da essa stessa o da altre, in quanto le considera, per ogni elaborazione ispirata ai propri modelli, o irrilevanti, nell'ipotesi dell'eliminazione ingenua, o nocivi, nella soppressione cosciente di atti divenuti testimonianze opposte ai propri convincimenti". (Mario Stanisci, Elementi di Archivistica, Udine, 1982) 

L'Archivio è quindi una lente deformata, non uno specchio fedele; i documenti d'archivio costituiscono una testimonianza storica loro malgrado: ma vanno però analizzati ed interrogati correttamente, affinchè "l'intelligenza trionfi sul dato" e le fonti documentarie ci dicano più di quanto volevano farci sapere.

In questo senso assume importanza il "mestiere dell'archivista" (parafrasando M.Bloch) come ricercatore e come mediatore della ricerca, fondamentale in quanto conoscitore dell'archivio, della sua struttura, della sua storia e del suo patrimonio documentario.