Neural networks zijn computersystemen met onderling verbonden nodes die bijna net zo werken als de zenuwcellen in de hersenen. Door middel van algorithms herkennen ze verborgen patronen en verbanden tussen ruwe gegevens, die ze vervolgens clusteren en classificeren. Op de lange termijn leren ze van deze gegevens en worden ze steeds beter.
De geschiedenis van neural networks
Het eerste neural network werd in 1943 bedacht door Warren McCulloch en Walter Pitts. Ze schreven een onderzoeksrapport over de mogelijke werking van zenuwcellen en gaven hun idee vorm door met elektrische circuits een simpel neural network te maken
Dit baanbrekende model legde de basis voor onderzoek naar neural networks op twee gebieden:
Biologische processen in de hersenen.
De toepassing van neural networks op kunstmatige intelligentie (ook wel AI genoemd, naar het Engelse ‘artificial intelligence’).
AI-onderzoek raakte in een stroomversnelling toen Kunihiko Fukushima in 1975 het eerste echte, gelaagde neural network ontwikkelde.
Het oorspronkelijke doel van het concept van een neural network was een computersysteem te ontwikkelen dat problemen kon oplossen zoals het menselijk brein dat doet. Na verloop van tijd verschoof de aandacht van onderzoekers echter naar het gebruiken van neural networks voor specifieke taken. Dit leidde tot koersveranderingen, weg van een strikt biologische benadering. Sindsdien hebben neural networks verschillende taken mogelijk gemaakt, waaronder computervisie, spraakherkenning, machinevertaling, het filteren van sociale netwerken, het spelen van bordspellen en videogames, en het stellen van medische diagnoses.
Toen gestructureerde en ongestructureerde gegevensvolumes toenamen tot het niveau van big data, ontwikkelde men systemen voor deep learning. In wezen zijn dat neural networks met veel lagen. Deep learning (het verbeteren van software door het analyseren en herkennen van patronen in gegevens met behulp van diepe neural networks) maakt vastleggen en datamining van meer en grotere gegevensvolumes mogelijk, ook van ongestructureerde gegevens.
Waarom zijn neural networks belangrijk?
Neural networks zijn ook zeer goed in staat mensen te helpen met het oplossen van complexe problemen in het echte leven. Ze kunnen de niet-lineaire en complexe relaties tussen invoer en uitvoer leren en modelleren; generalisaties maken en conclusies trekken; verborgen relaties, patronen en voorspellingen onthullen; en zeer volatiele gegevens (zoals gegevens van financiële tijdreeksen) en afwijkingen modelleren om zeldzame gebeurtenissen te voorspellen (zoal fraudedetectie). Daardoor kunnen neural networks processen voor besluitvorming verbeteren, bijvoorbeeld op het gebied van:
- Fraudedetectie bij creditcards en zorgverzekeringen.
- Optimalisatie van de logistiek in transportnetwerken.
- Teken- en stemherkenning, wat ook wel natuurlijke taalverwerking wordt genoemd.
- Medische diagnoses.
- Doelgerichte marketing.
- Financiële voorspellingen voor aandeelprijzen, valuta, opties, futures, faillissementen en obligatieratings.
- Robotachtige controlesystemen.
- Voorspellingen van elektrische belasting en energievraag.
- Proces- en kwaliteitscontrole.
- Identificatie van chemische verbindingen.
- Ecosystem evaluation.
- Computer computervisie om ruwe foto's en video's te interpreteren (bijvoorbeeld in beeldvormend medisch onderzoek, robotica en gezichtsherkenning).
Voor deze neural networks, of modellen, is onze eerste doelstelling nauwkeurigheid op menselijk niveau realiseren. Totdat je dat niveau hebt bereikt, weet je dat je het nog beter kunt doen. Ivan Gomez Datawetenschapper en consultant Zencos
Soorten neural networks
Er zijn verschillende soorten diepe neural networks. Elk heeft voor- en nadelen, afhankelijk van het gebruiksdoel. Een aantal voorbeelden:
- Een convolutional neural networks (CNNs) bevat vijf soorten lagen: de ‘input layer’, ‘convolution layer’, ‘pooling layer’, 'fully-connected layer’ en ‘output layer’. Elke layer, of laag, heeft een specifiek doel, bijvoorbeeld om te samenvatten, te verbinden of te activeren. Convolutional neural networks hebben beeldclassificatie en objectdetectie populairder gemaakt. CNN’s zijn echter ook voor andere doeleinden ingezet, zoals natuurlijke taalverwerking en voorspellingen.
- Een recurrent neural networks (RNNs) gebruikt informatiereeksen, zoals tijdstempelgegevens uit een sensorapparaat of gesproken zin, die uit een reeks termen bestaan. In tegenstelling tot traditionele neural networks, is alle input in een recurrent neural network niet onafhankelijk van elkaar en is de output van elk element afhankelijk van de berekeningen van diens voorgaande elementen. RNN’s worden toegepast in voorspellingen en tijdreeksen, sentimentanalyse en andere teksttoepassingen.
- Een feedforward neural networks waarin elke perceptron in de ene laag verbonden is met elke perceptron in de volgende laag. Informatie wordt van de ene laag naar de volgende laag vooruit gestuurd, uitsluitend in voorwaartse richting. Er zijn geen feedbackloops.
- Een autoencoder neural networks wordt gebruikt om abstracties te maken die encoders worden genoemd, gemaakt van een bepaalde inputset. Hoewel vergelijkbaar met traditionelere neural networks, willen autoencoders de inputs zelf modelleren. Deze methode wordt dan ook beschouwd als ‘zonder toezicht’. De vooronderstelling van autoencoders is om het irrelevante te desensibiliseren en het relevante te sensibiliseren. Naarmate er lagen worden toegevoegd, worden er in hogere lagen (lagen die het dichtst bij het punt liggen waarop een decoderlaag wordt geïntroduceerd verdere abstracties geformuleerd. Deze abstracties kunnen vervolgens worden gebruikt door lineaire of niet-lineaire indelers.
Hedendaagse neural networks
Neurale netwerken veranderen de manier waarop mensen en organisaties omgaan met systemen, problemen oplossen en betere beslissingen en voorspellingen maken. Kom meer te weten over de impact van neural networks.
Neural networks voor de gezondheid van de kudde
Een gepassioneerde datawetenschapper gebruikt neural networks om tuberculose bij olifanten op te sporen. Ontdek hoe haar onderzoek de verspreiding van tuberculose kan helpen voorkomen.
Learn neural network modeling
Leer hoe je de juiste neural networkarchitectuur kiest, hoe je de relevantste trainingsmethode bepaalt, hoe je neural networkmodellen in een gedistribueerde computeromgeving implementeert en hoe je maatwerk neural networks opzet volgens de NEURAL-procedure.
Deep learning met SAS® hoe het werkt
Op zoek naar een technischer overzicht van de technieken en toepassingen van deep learning? Lees deze paper en ontdek hoe je met SAS diepe neural networkmodellen creëert.
Door wie worden neural networks gebruikt?
Deeplearningsystemen, en de neural networks die ze mogelijk maken, worden in veel bedrijfstakken en vakgebieden strategisch ingezet.
Biowetenschappen
Organisaties in de gezondheidswetenschappen en biowetenschappen gebruiken neural networks voor voorspellende diagnostiek, biomedische beeldvorming en gezondheidsmonitoring.
Productie
Energie- en productiebedrijven gebruiken neural networks om de leveringsketen te optimaliseren, defecten automatisch op te sporen en de energiebehoeften te voorspellen.
Bankwezen
Banken gebruiken neural networks voor het detecteren van fraude, uitvoeren van kredietanalyses en het automatiseren van financiële adviseursdiensten.
Overheidssector
Organisaties in de overheidssector gebruiken neural networks voor slimme steden, inlichtingendiensten en gezichtsherkenning.
Detailhandel
De detailhandel gebruikt neural networks voor gesprekken met chatbots, het verbeteren en verdiepen van de kennis over klanten, en het uitvoeren van netwerkanalyses.
Kom meer te weten over de bedrijfstakken die deze technologie gebruiken
Neural networks zijn in staat afwijkingen te identificeren. In de toekomst zullen we ze kunnen gebruiken om dokters een second opinion te geven, bijvoorbeeld of iets kanker is of wat een onbekend probleem is. En we zullen die second opinions sneller en nauwkeuriger kunnen geven. Leigh Ann Herhold Datawetenschapper en consultant Zencos
Een neural networkmodel bouwen
In deze video leer je hoe je SAS® Visual Data Mining and Machine Learning gebruikt in de context van neural networks. In dit voorbeeld wordt gekeken naar wat bezoekers naar websites trekt en wat ervoor zorgt dat ze een paper downloaden van de website van een IT-bedrijf.
Zo werken neural networks
Een eenvoudig neural network omvat een inputlaag, een outputlaag (of doellaag) en daartussen een verborgen laag. De lagen zijn verbonden via nodes. Die verbindingen vormen een ‘netwerk’, het neural network, van onderling verbonden nodes.
Een node is gevormd naar een zenuwcel in het menselijk brein. Het gedrag van nodes lijkt op dat van zenuwcellen, want ze activeren wanneer er genoeg stimulans of input is. Deze activatie verspreidt zich door het netwerk, wat zorgt voor een reactie op de stimuli (output). De verbindingen tussen deze kunstmatige zenuwcellen fungeren als eenvoudige synapsen, waarmee signalen van de ene naar de andere gestuurd kunnen worden. De signalen verplaatsen zich tijdens hun reis van de eerste input naar de laatste output door de lagen heen en worden ondertussen verwerkt.
Wanneer hen gevraagd wordt iets te doen of een probleem op te lossen, voeren de zenuwcellen wiskundige berekeningen uit om te bepalen of er voldoende informatie is om de informatie door te sturen naar de volgende zenuwcel. Simpel gezegd, lezen ze alle gegevens en zoeken ze uit waar de sterkste relaties bestaan. In het eenvoudigste soort netwerk wordt de gegevensinput opgeteld. Als de som meer is dan een bepaalde drempelwaarde, wordt de zenuwcel ‘afgevuurd’ en activeert die de zenuwcellen waarmee die is verbonden.
Naarmate het aantal verborgen lagen in een neural network toeneemt, worden diepe neural networks gevormd. Deeplearningarchitecturen tillen eenvoudige neural networks naar een hoger niveau. Met deze lagen kunnen datawetenschappers hun eigen deeplearningnetwerken opbouwen waarmee machinelearning mogelijk wordt. Machinelearning kan een computer trainen om menselijke taken nauwkeurig na te bootsen, bijvoorbeeld het herkennen van spraak, identificeren van beelden of het doen van voorspellingen. Net zo belangrijk, is het feit dat de computer zelfstandig kan leren door in veel verwerkingslagen patronen te herkennen.
Laten we deze definitie in de praktijk toepassen. Gegevens worden in een neural network ingevoerd via de inputlaag, die met verborgen lagen communiceert. De verwerking in de verborgen lagen vindt plaats middels een systeem van gewogen verbindingen. Vervolgens combineren nodes in de verborgen laag de gegevens uit de inputlaag met een set coëfficiënten en wijzen de juiste gewichten toe aan de input. Deze inputgewichten worden vervolgens bij elkaar opgeteld. De som gaat door de activatiefunctie van een node, die bepaalt in welke mate een signaal verder door het netwerk moet worden geleid om de uiteindelijke output te beïnvloeden. Tot slot zijn de verborgen lagen gekoppeld aan de outputlaag, waar de output wordt opgehaald.
Vervolgstappen
Ontdek hoe neural networks een rol spelen in kunstmatige intelligentie.
Uitgelicht product voor neural networks
SAS® Visual Data Mining and Machine Learning
Ondersteun het end-to-end-proces voor datamining en machinelearning met een uitgebreide, visuele (en programmeer-) interface die alle taken in de analytische levenscyclus verwerkt.
Recommended Reading
-
Article
AI in government: The path to adoption and deploymentThe government sector is lagging in AI adoption, but awareness of the importance of AI in the public sector is increasing. Our survey indicates that operational issues are requiring governments to turn their attention to AI projects as a way to address important public issues.
-
Article
3 Essential Steps for Ethical AIWill artificial intelligence benefit humanity or usher in a series of unintended consequences? Ethical AI from SAS may be one way to ensure AI is used for good. SAS NL
-
Research
Nerd in the herd: protecting elephants with data scienceA passionate SAS data scientist uses machine learning to detect tuberculosis in elephants. Find out how her research can help prevent the spread of the disease.