1. La carta del 2006 di Geoffrey Hinton :Nel 2006, lo scienziato informatico Geoffrey Hinton ha pubblicato un documento fondamentale intitolato "Deep Learning:A Tutorial on Deep Neural Networks" in Nature Magazine. Questo documento è considerato un punto di riferimento nel campo delle reti neurali artificiali e ha contribuito a diffondere il termine "apprendimento profondo". Hinton e i suoi colleghi dell'Università di Toronto sono ampiamente considerati pionieri nello sviluppo di tecniche di apprendimento profondo.
2. l'uso del termine da parte di Yoshua Bengio :Yoshua Bengio, un altro importante ricercatore nel campo, ha svolto un ruolo significativo nella divulgazione del termine "apprendimento profondo" nei primi anni 2000. Bengio e i suoi colleghi dell'Université de Montréal hanno condotto ricerche innovative su algoritmi di apprendimento profondo e ha spesso usato il termine "deep learning" nelle sue pubblicazioni di ricerca.
3. Influenza della psicologia cognitiva :Alcuni credono che l'ispirazione per il termine "apprendimento profondo" possa provenire dalla nozione di "struttura profonda" nella psicologia cognitiva. La struttura profonda è un termine usato nella linguistica e nella psicologia cognitiva per descrivere la rappresentazione o la sintassi sottostante di un linguaggio che va oltre le caratteristiche a livello di superficie di parole e frasi. Questo concetto potrebbe aver influenzato la comprensione dei modelli di apprendimento profondo come cattura di modelli sottostanti e relazioni complesse nei dati.
4. Confronto con l'apprendimento automatico tradizionale :Il termine "apprendimento profondo" è stato probabilmente coniato per differenziarlo dai tradizionali metodi di apprendimento automatico. Mentre gli algoritmi tradizionali di apprendimento automatico si basano spesso su reti neurali superficiali o rappresentazioni superficiali dei dati, l'apprendimento profondo comporta l'uso di reti neurali profonde con più livelli nascosti. Queste architetture profonde consentono un'estrazione di caratteristiche più complesse e gerarchiche, consentendo ai modelli di apprendere rappresentazioni di dati di livello superiore.
5. Contesto storico :All'inizio della ricerca sulla rete neurale, le reti neurali poco profonde erano la norma e hanno affrontato limitazioni nelle loro capacità rappresentative e capacità di gestire problemi complessi. L'emergere di potenti risorse di elaborazione, come le unità di elaborazione grafica (GPU), alla fine degli anni 2000 ha permesso di allenarsi efficacemente le reti neurali più profonde. Questo contesto storico ha contribuito alla necessità di un termine che ha catturato i progressi e una maggiore complessità di questi nuovi approcci, quindi il termine "apprendimento profondo" ha guadagnato trazione.
È probabile che una combinazione di questi fattori, insieme alla convergenza di sforzi di ricerca e scoperte, che ha portato all'adozione diffusa del termine "apprendimento profondo" per descrivere il sottocampo all'interno dell'apprendimento automatico incentrato su reti neurali profonde.