Het gebruik van Siri of een andere spraakassistent is tegenwoordig een deel van ons dagelijks leven geworden om snel en gemakkelijk allerlei taken uit te voeren. Niet iedereen weet echter dat wanneer we het potentieel van deze instrumenten benutten, we in feite in de buurt komen van diep leren. Een term, dit, die in onze taal wordt weergegeven als deep learning, door sommigen hiërarchisch leren genoemd, en die op twee manieren verbonden is met het begrip machinaal leren en, meer in het algemeen, met dat van kunstmatige intelligentie, of AI, van het Engelse Artificial Intelligence. Als machinaal leren een specifieke tak van kunstmatige intelligentie is, dan is de technologie die in deze gids wordt behandeld een subset van de eerstgenoemde, en ligt zij ten grondslag aan iets veel ruimers dan eenvoudig machinaal leren op meerdere niveaus. Bijgevolg zijn de toepassingen, zoals wij reeds hebben gezegd, ontelbaar, en wij zullen natuurlijk samen de voornaamste ontdekken in de volgende paragrafen.
De definitie van deep learning
De technische definitie van deep learning of diep leren is die van een klasse algoritmen van automatisch leren, dat wil zeggen het reeds genoemde onderzoeksgebied van machine learning, en van kunstmatige intelligentie die gebaseerd is op verschillende niveaus van representatie, overeenkomend met hiërarchieën van kenmerken van factoren of concepten, waarbij de concepten van hoog niveau worden gedefinieerd op basis van die van laag niveau. De definitie van het Observatorium voor Kunstmatige Intelligentie van de Politecnico di Milano is nog begrijpelijker voor niet-experts: deep learning wordt in feite omschreven als een geheel van technieken die gebaseerd zijn op kunstmatige neurale netwerken die in verschillende lagen zijn georganiseerd, waarbij elke laag de waarden voor de volgende berekent, zodat de informatie op een steeds vollediger wijze wordt verwerkt.
Het is dan ook geen toeval dat onder de architecturen van diep leren gewoonlijk de diepe neurale netwerken, de convolutie van diepe neurale netwerken, de diepe overtuigingsnetwerken, en recursieve neurale netwerken worden genoemd. Zij vertegenwoordigen alle een benadering volgens welke het leren plaatsvindt dankzij gegevens die zijn verkregen door middel van algoritmen, voornamelijk van statistische berekening.
U zult dus begrepen hebben dat de grote hoeveelheid gegevens die door neurale netwerken wordt verwerkt, een “traject” volgt dat sterk lijkt op dat in de menselijke hersenen, dat de werking van dezelfde kunstmatige netwerken inspireert. Veel onderzoekers en wetenschappers staan bekend om hun inzet voor deep learning, zoals Andrew Yan-Tak Ng, oprichter van Google Brain, Ian J. Goodfellow, door MIT Boston erkend als een van ’s werelds beste vernieuwers onder de 35 jaar, Yoshua Bengio, Ilya Sutskever, en Geoffrey Everest Hinton, een van de sleutelfiguren op het gebied van kunstmatige intelligentie.
Het is hun bijdrage die ons nu in staat stelt diep leren te definiëren als een systeem dat gebruik maakt van een klasse van algoritmen voor machinaal leren die in de eerste plaats gebruik maken van verschillende niveaus van cascadering van niet-lineaire eenheden om kenmerkextractie en transformatietaken uit te voeren, waarbij elk opeenvolgend niveau de output van het vorige niveau als input gebruikt. De algoritmen berusten dan op het zogeheten “unsupervised learning” van meerdere hiërarchische niveaus van gegevenskenmerken, waardoor een hiërarchische voorstelling ontstaat. Niet alleen dat, maar door de manier waarop ze zijn ontworpen, leren ze meerdere niveaus van representatie die overeenkomen met verschillende abstractieniveaus, waardoor een hiërarchie van concepten wordt gegenereerd.
Tot rond het jaar 2000 begon men te spreken over diep leren. In betrekkelijk korte tijd echter hebben de toepassingen zich als een lopend vuurtje vermenigvuldigd dankzij de technologische vooruitgang en de steeds verfijndere neurale netwerken. De eerste studies over de meerlagige neurale netwerken werden verricht en gepubliceerd door de Japanse wetenschapper Kunihiko Fukushima, die in 1975 het model van de cognitron ontwikkelde, gevolgd door dat van de neo-cognitron. Dezelfde geleerde introduceerde het idee van de verbindingszone voor de neuronen, die zich ontwikkelde tot de convolutionele neurale netwerken.
In de jaren 80 ging de analyse van de meerlagige kunstmatige neurale netwerken op een meer doorslaggevende wijze verder, maar pas in het laatste decennium, vooral dankzij de komst van de Big Data en het overwinnen van bepaalde beperkingen, tonen zij al hun potentieel in een gevarieerd scala van sectoren. Vandaag de dag maken de systemen van deep learning, naast vele andere toepassingen, bijvoorbeeld de identificatie van objecten in afbeeldingen en video’s mogelijk, de transcriptie van spraak in tekst, of de identificatie en interpretatie van de interesses van de online gebruikers, waarbij zoekresultaten worden teruggegeven die dichter bij hun specifieke behoeften liggen.
Hoe deep learning werkt
Zoals uitgelegd in de vorige paragraaf van de gids, baseert deep learning zijn gehele werking op de classificatie en opeenvolgende selectie van de meest relevante gegevens, om tot een zo optimaal mogelijke conclusie te komen. Een werking die overeenkomt met die van ons biologisch brein, hetzij om het juiste antwoord op een vraag te formuleren, hetzij om tot de oplossing van een specifiek probleem te komen, hetzij om zelfs een logische hypothese af te leiden. Sommigen van u herinneren zich wellicht het beroemde geval van AlphaGo, een software die in 2016 de wereldkampioen Go versloeg, enkele jaren eerder dan gepland.
Diep leren gedraagt zich dus op dezelfde manier als menselijk redeneren, maar dan met behulp van de kunstmatige neurale netwerken waar we het over hadden, dat wil zeggen wiskundig-computermodellen die zijn gebaseerd op de werking van biologische neurale netwerken, die op hun beurt zijn opgebouwd uit onderlinge verbindingen van informatie. Een neuraal netwerk is in feite een adaptief systeem: het kan zijn structuur, bestaande uit knooppunten en onderlinge verbindingen, wijzigen op basis van zowel externe als interne gegevens, die het neurale netwerk vervolgens verbinden en doorkruisen tijdens de fase van leren en redeneren.
Het leren is dan zowel van het automatische als van het “diepe” type, waarbij met diep wordt bedoeld op meer niveaus. Dit soort leren is beslist krachtiger gebleken dan eerdere AI-technologieën, zozeer zelfs dat het onlangs ongekende media-aandacht heeft getrokken. Net als, onvermijdelijk, wetenschappelijke en economische aandacht. Er is geen gebrek aan beperkingen, maar diep leren kan zeker worden opgemerkt voor de kwaliteit van de verkregen resultaten, met een overeenkomstig enorm voordeel bij het leren oplossen van complexe problemen van patroonherkenning. Hoewel de vraag naar enorme rekencapaciteit een beperking kan zijn, is de schaalbaarheid van deep learning naarmate de hoeveelheid beschikbare gegevens en algoritmen toeneemt, wat het onderscheidt van machine learning.
De eerstgenoemde verbetert namelijk zijn prestaties naarmate de hoeveelheid gegevens toeneemt, terwijl de laatstgenoemde zijn prestaties niet meer kan verfijnen als het eenmaal een bepaald prestatieniveau heeft bereikt. Dit komt doordat het complexe neurale netwerk autonoom leert hoe het ruwe gegevens moet analyseren en hoe het een bepaalde taak moet uitvoeren. De computer is dus in staat om “zelf te leren”, zonder menselijke instructies, na een eerste opleidingsfase. Het uiteindelijke doel is tijd en middelen te besparen, vooral bij routinematig werk, dat veel efficiënter en sneller wordt uitgevoerd dan door welke mens dan ook, zonder enige vorm van inspanning en met behoud van een vrijwel constant kwaliteitsniveau.
De toepassingen van deep learning
Diep leren
Hoeveel vooruitgang is er op dit gebied geboekt, hoewel zelfs vandaag de dag sommige beslissingen bij deep learning niet volledig begrijpelijk zijn vanuit een zuiver menselijk perspectief. Dit belet niet, zoals nu duidelijk is, dat de technologieën in verband met deep learning voortdurend worden verbeterd, meer bepaald dankzij de hoeveelheid beschikbare gegevens en de beschikbaarheid van infrastructuren met ultrahoge prestaties, waarbij met name wordt verwezen naar CPU’s en GPU’s. Het mag dan ook geen verrassing zijn dat deep learning momenteel wordt toegepast in diverse industrieën, en vooral dat het in de nabije toekomst zal blijven worden toegepast en zich zal uitbreiden naar vele andere gebieden van ons dagelijks leven. Denk maar aan bestuurdersloze auto’s, robotdrones voor pakketbezorging, stem- en taalherkenning en -synthese voor chatbots en dienstrobots, of gezichtsherkenning voor veiligheidsdoeleinden.
Er zijn ook medische toepassingen in de radiologie voor de vroegtijdige opsporing van bepaalde vormen van kanker, of de mogelijkheid om de genetische sequenties van bepaalde ziekten gemakkelijk te identificeren om effectievere geneesmiddelen te produceren. Ook kunnen worden genoemd: automatische kleuring van zwart-witbeelden, simultaanvertaling, classificatie van voorwerpen op een foto, automatische generatie van handschrift en tekst, samen met intuïtieve indeling in bijschriften. Op dezelfde manier werd ook automatisch gamen ontwikkeld, waarbij het systeem zelfstandig leert hoe een bepaald spel moet worden gespeeld. Niet te onderschatten zijn ten slotte de mogelijkheden van deep learning om onregelmatigheden in systeemactiviteiten aan het licht te brengen dankzij hun onafhankelijke en voortdurende leervermogen, met name voor gevaarlijke cyberaanvallen of “slimme” videobeelden die in de meest geavanceerde luchthavens zijn geïnstalleerd.
Dit gezegd hebbende, is het echter belangrijk te benadrukken dat deep learning niet de beste technologische oplossing voor elk probleem kan en mag zijn. Veel onderzoekers, vooral van de laatste vijf jaar, zijn ervan overtuigd dat weldra effectievere, en misschien goedkopere, benaderingen zullen worden gevonden die hiërarchisch leren op basis van de werking van het menselijk brein overbodig zullen maken. Alsof het een voorbijgaand fenomeen is, afgezwakt om slechts een van de vele ongelooflijke! – manifestaties van kunstmatige intelligentie.