Changeyourbusiness.nl

Top Menu

  • Over
  • Adverteren
  • Contact

Main Menu

  • Home
  • Nieuws
  • Change
  • Over
  • Adverteren
  • Contact

logo

  • Home
  • Nieuws
  • Change
Artikelnummer 3 - 2020
Home›Artikel›GPT-3 schrijft teksten in alle soorten en maten

GPT-3 schrijft teksten in alle soorten en maten

By Hans Eberson
11 november 2020
1360
0
Share:

‘GPT-3 van OpenAI is de grootste digitale revolutie na de bitcoin. Bewonderenswaardig, ongekend, het krachtigste taalmodel ooit, zowel in multifunctionaliteit, rekenkracht als in hoeveelheid trainingsdata’. Deze en andere misschien nog wel grotere complimenten kreeg het door OpenAI ontwikkelde taalmodel dat in mei van dit jaar openbaar werd gemaakt. Critici daarentegen noemen het een klungelige bullshitkunstenaar, saai, ja zelfs lachwekkend.

GPT-3 (Generative Pre-trained Transformer 3) schrijft teksten in alle soorten en maten. Persberichten, romans, essays, liedteksten, zelfs poëzie. Het enige dat het taalmodel nodig heeft zijn enkele beginzinnen en daarna zal de computer de tekst afmaken. In de stijl die je wenst en de lengte die je voorschrijft. Over de kwaliteit van de inhoud kun je twisten en dat gebeurt dan ook volop. Maar het in zeker de krachtigste tekstgenerator die ooit is gebouwd, want het taalmodel baseert zijn teksten op een bibliotheek vol boeken, alle teksten die op het internet zijn verschenen tussen 2016 en 2019 en het hele Engelse Wikipedia. In totaal gaat het om zo’n 45 terabyte aan data. GPT-3 is technisch gezien een diep neuraal netwerk, opgebouwd uit 96 lagen en 175 miljard verbindingen. Daarmee is dit het grootste kunstmatige neurale netwerk dat ooit is gebouwd.

Best aardig

De neurale netwerktechniek is gebaseerd op de werking van het neurale netwerk van het menselijke brein. Biologische neurale netwerken zijn opgebouwd uit werkelijk bestaande zenuwcellen die in het zenuwstelsel en hersenen met elkaar zijn verbonden door middel van synapsen. In de neurowetenschap kunnen deze netwerken corresponderen met kleine groepjes neuronen met een specifieke functie, of grotere gebieden in de hersenen met een meer algemene functie. Kunstmatige neurale netwerken zijn opgebouwd uit kunstmatige eenheden of ‘neuronen’ die door middel van een programma van echte biologische neuronen nabootsen. En dat is dus precies was GPT-3 doet. Uiteraard weet het programma niet welke tekst het daadwerkelijk genereert. Het berekent alleen de kans dat bepaalde woorden in een bepaalde volgorde na elkaar voorkomen. Dat hoeft geen belemmering te zijn schrijft Bennie Mols in zijn artikel ‘Onbetrouwbaar, gammel en bewonderenswaardig’ in het NRC van 24 oktober. Automatische vertaalprogramma’s weten ook niet wat ze vertalen en toch zijn hun prestaties indrukwekkend en praktisch zeer bruikbaar. Nadeel volgens Mols is dat het programma in een aantal taken best aardig presteert, maar nergens in uitblinkt. Hij trekt een vergelijking met een tienkamper, die alle elementen van zijn sport redelijk onder de knie heeft, maar nergens in excelleert. Inhoudelijk valt er vaak veel op de tekstproducties aan te merken. Dat heeft te maken met het feit dat de computer voortborduurt op bestaande kennis in zijn database. Vernieuwing hoef je dus niet te verwachting. Er zal geen nieuwe W.F. Hermans of Gerard Reve opstaan.

Niet goedkoop

De ontwikkeling van GPT-3 is echter wel een prestatie van formaat, alleen al door de gigantische hoeveelheid data die ten grondslag ligt aan zijn kunsten. Dit is de derde versie die door OpenAI is ontwikkeld en daarmee gegarandeerd maar een tussenproduct. De volgende versies zullen steeds beter en geavanceerder worden en er liggen natuurlijk nog grote onontgonnen gebieden op exploitatie te wachten. GPT-3 werkt met taal, maar wat als er bijvoorbeeld beeld of geluid aan kan worden toegevoegd? Critici zien dat nog niet zo snel gebeuren: “Eerst het tekstdeel maar eens op orde krijgen. GPT-3 kan soms verbazingwekkend interessante korte stukken tekst afleveren, maar ze missen de lange verhaallijn”, zegt wiskundige Marcus du Sautoy. GPT-3 is niet vrij op de markt te verkrijgen. De ontwikkelkosten waren gigantisch, net als de energiekosten. Bovendien zullen de data voortdurend moeten worden geüpdatet. Om de  kans op commerciële toepassingen te vergroten heeft OpenAI een exclusieve licentie aan Microsoft verkocht. Dat betekent dat iedereen het op een gegeven moment in bijvoorbeeld Word of Excel zal zien langskomen. Tot dan toch nog even geduld graag.

Previous Article

‘Ontmoeten, samenwerken en ontspannen wordt het devies’

Next Article

Het gemis

0
Shares
  • 0
  • +
  • 0
  • 0
  • 0

Related articles More from author

  • ArtikelNummer 1 - 2016

    Over leiderschap en JFK

    2 mei 2016
    By c0d3br3ak
  • ArtikelNummer 4 - 2018

    Dr. Peter Vaessen (Radboud Universiteit Nijmegen): ‘Impact van spin-off’s Radboud Universiteit is groot’

    10 oktober 2018
    By c0d3br3ak
  • ArtikelColumnnummer 1 - 2023

    Column Roald Bergamin: ‘Vergunningstelsel zal veel veranderen voor uitzendorganisaties’

    5 april 2023
    By Hans Eberson
  • Artikelnummer 1 - 2023

    Mark Nijhuis en Loes de Kort (Baiana) over hun horecareis

    5 april 2023
    By Hans Eberson
  • ArtikelCoverstoryNummer 4 - 2019

    ‘Christmas is coming to town’

    24 oktober 2019
    By Hans Eberson
  • Ik wil de dingen gewoon goed geregeld hebben
    ArtikelNummer 5 - 2017

    Ik wil de dingen gewoon goed geregeld hebben

    14 december 2017
    By c0d3br3ak

Leave a reply Reactie annuleren

0

Wellicht vindt u dit ook interressant

  • No plan survives contact with the enemy
    ArtikelNummer 5 - 2017

    No plan survives contact with the enemy

  • ArtikelNummer 5 - 2019

    Manna en Hotel Blue: ‘Nieuwe plannen, mooie ideeën, er samen een succes van maken’

  • ArtikelNummer 4 - 2016

    Jeroen ter Weeme: ‘Onze branche is nooit geheel in balans’

Change Your Business
  • Over
  • Adverteren
  • Contact
© 2025 Changeyourbusiness.nl | Met passie gerealiseerd door Codebreakers, Reclamebureau Nijmegen