Într-un computer tipic, realizat conform a ceea ce se numește arhitectură Von Neumann, băncile de memorie trăiesc într-un modul izolat. Există un singur procesor, care procesează instrucțiunile și memoria rescrie unul câte unul, folosind o arhitectură serială. O abordare diferită a calculatoarelor este rețeaua neuronală. Într-o rețea neuronală, formată din mii sau chiar milioane de „neuroni” sau „noduri” individuali, toată procesarea este extrem de paralelă și distribuită. „Amintirile” sunt stocate în interconexiunile complexe și ponderările dintre noduri.
Rețelele neuronale este tipul de arhitectură de calcul folosit de creierul animalelor în natură. Acest lucru nu se datorează neapărat pentru că rețeaua neuronală este un mod inerent superior de procesare decât computerul în serie, ci pentru că un creier care utilizează computerul în serie ar fi mult mai dificil de evoluat progresiv. De asemenea, rețelele neuronale tind să se ocupe de „date zgomotoase” mai bine decât computerele seriale.
Într-o rețea neuronală feedforward, un „strat de intrare” plin cu noduri specializate preia informații, apoi trimite un semnal către un al doilea strat pe baza informațiilor pe care le-a primit din exterior. Această informație este de obicei un semnal binar „da sau nu”. Uneori, pentru a trece de la un „nu” la un „da”, nodul trebuie să experimenteze un anumit prag de excitare sau stimulare.
Datele se deplasează de la stratul de intrare la straturile secundare și terțiare și așa mai departe, până când ajung la un „strat de ieșire” final care afișează rezultatele pe un ecran pentru ca programatorii să le analizeze. Retina umană funcționează pe baza rețelelor neuronale. Nodurile de primul nivel detectează caracteristici geometrice simple în câmpul vizual, cum ar fi culorile, liniile și marginile. Nodurile secundare încep să abstragă caracteristici mai sofisticate, cum ar fi mișcarea, textura și adâncimea. „Ieșirea” finală este ceea ce conștiința noastră înregistrează atunci când ne uităm la câmpul vizual. Intrarea inițială este doar un aranjament complex de fotoni care ar însemna puțin fără hardware-ul neurologic care să-i dea sens în termeni de calități semnificative, cum ar fi ideea unui obiect durabil.
În rețelele neuronale cu propagare inversă, ieșirile din straturile anterioare se pot întoarce la acele straturi pentru a limita semnale ulterioare. Majoritatea simțurilor noastre funcționează astfel. Datele inițiale pot determina o „ghicire educată” la rezultatul final, urmată de analizarea datelor viitoare în contextul acelei presupuneri educate. În iluziile optice, simțurile noastre fac presupuneri educate care se dovedesc a fi greșite.
În loc să programeze rețelele neuronale algoritmic, programatorii trebuie să configureze o rețea neuronală cu antrenament sau reglare delicată a neuronilor individuali. De exemplu, antrenarea unei rețele neuronale pentru a recunoaște fețele ar necesita mai multe curse de antrenament în care diferite obiecte „asemănătoare feței” și „neasemănătoare” rețelei au fost arătate rețelei, însoțite de feedback pozitiv sau negativ pentru a convinge rețeaua neuronală să îmbunătățească abilitățile de recunoaștere.