Info

Learning a little every day

Posts from the Internet Category

Choose another category?

Het uitzicht tijdens mijn rondje hardlopen 🏃‍♂️vanochtend.

Misschien heb je op Twitter de hashtag #gpt3 voorbij zien komen? Dan was je vlakbij kunstmatige intelligentie. 😉

GPT-3 staat namelijk voor Generative Pretrained Transformer versie 3 (wikipedia). Kort door de bocht is dat een taalmodel dat ontstaan is door patronen te zoeken in grote hoeveelheden informatie. In dit geval enorme hoeveelheden informatie! Met wat het daar geleerd heeft kan GPT-3 zelf uitgebreid en aardig coherent antwoorden genereren op vragen die je stelt.

Wat is een taalmodel?

Wij denken er nooit over na, maar we hebben allemaal een eigen taalmodel. Dat helpt ons sneller te lezen of luisteren. Op basis daarvan vullen we letters en woorden al in voordat we ze lezen:

Als je bijvoorbeeld al de letters carnava.. voor je ziet, weet je dat je op de puntjes waarschijnlijk een l kunt verwachten. En na het lezen van br… verwacht je hoogstwaarschijnlijk geen k. Niet alleen op letter-niveau, maar ook op woordniveau is de afloop soms goed te voorspellen. Na ‘met terugwerkende …’ verwacht je ‘kracht’ en na ‘het is veel te …’ volgt waarschijnlijk een bijvoeglijk naamwoord (bv ‘heet’ of ‘kort’) en geen zelfstandig naamwoord (bv ‘fiets’ of ‘brood’).

GPT-3 doet ongeveer hetzelfde, maar omdat het model getraind is op zoveel informatie kan het uitgebreider en beter teksten ‘schrijven’ dan eerdere generatieve taalmodellen (zoals voorganger GPT-2).

Hoe het dat geleerd heeft legt Jay Alammar in een korte animatie uit:
GPT-3 is getraind op 300 miljard tekens tekst, met als doel om woorden te kunnen voorspellen.

Alles uit de gigantische dataset waaraan het model is blootgesteld is omgezet in 175 miljard parameters. Die gebruikt GPT-3 als je het iets vraagt (input), en op basis daarvan genereert het zelf een antwoord.

Wat kan GPT-3?

Eigenlijk kan GPT-3 gewoon schrijven. Alleen dan schrijven in de breedste zin van het woord, van gedichten tot programmeercode. En veel beter dan eerdere AI-taalmodellen.

In de afgelopen weken is met GPT-3:

En veel meer.

En als je puur kijkt naar de kwaliteit van de teksten die GPT-3 ‘schrijft’? Gwern Bransen is onder de indruk:

GPT-3’s samples are not just close to human level: they are creative, witty, deep, meta, and often beautiful. They demonstrate an ability to handle abstractions, like style parodies, I have not seen in GPT-2 at all. Chatting with GPT-3 feels uncannily like chatting with a human.

Wat betekent GPT-3?

In de New York Times is Farhad Manjoo erg overtuigd:

Software like GPT-3 could be enormously useful. Machines that can understand and respond to humans in our own language could create more helpful digital assistants, more realistic video game characters, or virtual teachers personalized to every student’s learning style. Instead of writing code, one day you might create software just by telling machines what to do.

Meer praktisch ziet Max Woolf, in vergelijking met GPT-2, twee grote verbeteringen in GPT-3:

  1. it allows generation of text twice the length of GPT-2 (about 10 paragraphs of English text total), and
  2. the prompts to the model better steer the generation of the text toward the desired domain (due to few-shot learning).
    For example, if you prompt the model with an example of React code, and then tell it to generate more React code, you’ll get much better results than if you gave it the simple prompt.
    Kortom: het GPT-3-taalmodel kan veel langere teksten genereren en beter gestuurd worden met uitgebreidere input.

Maar in de online voorbeelden is GPT-3 ook langzaam. En zijn menselijke vooroordelen die overal op internet te vinden zijn ook in het model aanwezig.

Het is mooi, maar nog zeker geen magie.

Vandaag pikte ik wat flarden op van de Sprint Couch Conference, georganiseerd door het team achter The Next Web. Het thema was ‘Digital product strategy in 2020’, met veel verschillende presentaties. Eerlijk gezegd had ik alleen tijd om het verhaal van Jen Taylor (Hoofd Product bij Cloudflare) met aandacht te volgeen. Daarin ging zij in op hoe bij Cloudflare producten worden gelanceerd.

Voorbereiding

Al heel vroeg in de productontwikkel-cyclus wordt gestart met de eerste stap richting lancering. Door de product manager wordt tijdens het uitwerken van de requirements een blogartikel over het nieuwe product of feature geschreven. Vergelijkbaar met hoe bij Amazon altijd eerst een intern persbericht wordt geschreven bij de start van een nieuw productontwikkel-traject (“Working backwards”, noemen ze dat).

IMG 0180
(Slide uit Jen Taylor’s presentatie.)

In die fase wordt ook bepaald wat voor type lancering nodig is:

  1. Een ‘Big Bang’, voor een nieuw product met duidelijke product-markt-fit, waar veel aandacht voor gegenereerd moet worden (inclusief groter budget voor product marketing) zodat een positie in de markt veroverd kan worden.
  2. Een ‘Slow Launch’, gericht op een kleinere groep gebruikers waarbij je vooral wil leren van de gebruiker, koper en over welk prijsmodel geschikt is. Data over gebruik en ‘word of mouth’ zijn essentieel.

Daarbij moet je meenemen hoe je wil lanceren;

  • Creëer je een moment, door je publiek puur voor de lancering te bereiken. Headline-waardig dus.
  • Of haak je aan bij een bestaand moment, bijvoorbeeld een evenement waar jouw gebruikers al aanwezig zijn.

Is dat duidelijk, dan kun je aan de daadwerkelijke lancering gaan werken.

Productlancering

Producten lanceren draait bij Cloudflare gelukkig ook om het succesvol maken van gebruikers. En dat doen ze in 5 stappen:

IMG 0184

  1. Drive Awareness – Vanuit een duidelijke positionering zet je je website, blog, sociale media, eventueel user advocates of advertenties in om je publiek bewust te maken van het nieuwe product of de nieuwe features. Zodat geïnteresseerden leren dat er een nieuwe oplossing is voor hun probleem of ‘job’.
  2. Take action – Stel gebruikers in staat om de nieuwe features of het nieuwe product uit te proberen. Kunnen ze een account aanmaken en inloggen? En als ze dan de nieuwe functionaliteit uitproberen is de meerwaarde direct duidelijk?
  3. Get successful – Zorg ervoor dat gebruikers succesvol aan de slag kunnen met die nieuwe mogelijkheden, door documentatie en how to’s aan te bieden en video demo’s te organiseren.
  4. Stay successful – Biedt goede support aan, met o.a. een gebruiksvriendelijk ticketsysteem, community forums en/of Slack kanalen, bemand door een sterk support team dat voldoende ondersteuning krijgt vanuit de organisatie (kennis, middelen).
  5. Grow – gebruik blogs, white-papers, nieuwsbrieven en e-mail journeys om de mogelijkheden verder onder de aandacht te brengen.

And repeat

In het verlengde van die 5 stappen ga je meten, leren, en vervolgens aanpassingen doorvoeren om je gebruikers succesvoller te maken.

IMG 0193

En daarna begin je aan het volgende product of de volgende nieuwe feature. Net zo makkelijk.

Ongeveer hetzelfde verhaal vertelde ze vorig jaar bij SaaStr, daarvan kun je de video hieronder terugzien:

Op mijn telefoon staan bijna 25.000 (!) foto’s en video’s. Af en toe realiseer ik me weer hoeveel dat er zijn. En vraag me dan af: wat moet ik ermee?

De leukste foto’s van onze kinderen deel ik digitaal met m’n vriendin en opa’s en oma’s. Maar die bekijken we nog steeds maar één of twee keer. Vluchtig. En dat is zonde. Patrick Rhone is er heel duidelijk over: je favoriete foto’s moet je uitprinten. Zijn tip: neem daar iedere paar maanden even de tijd voor.

Als je iedere dag bezig bent met het (door)ontwikkelen van een product weet jij er alles van. Je kent de features van haver tot gort, weet in de krochten van je app of website de meest verborgen opties te vinden, en vertelt bij iedere update precies wat er nieuw is.

Maar je gebruikers interesseert het weinig. Zij zijn jouw product gaan gebruiken omdat het een bepaald probleem oploste. De rest van de mogelijkheden, zeker recenter toegevoegde functies, gebruiken ze veel minder of misschien helemaal niet.

In de Podcast over Media (S04E16) vertelde Alexander Klöpping dat dit ze bij Blendle ook overkomt.

Herkenbaar. En heel logisch. Want als iemand de moeite neemt om jouw product te gaan gebruiken:

  • Steken ze energie in het vinden van een oplossing voor hun ‘probleem’ (de ‘job-to-be-done’.
  • Proberen ze de ‘oplossingen’ die ze vinden.
  • Maken ze de keuze om jouw app of website te gaan gebruiken. Oplossing gevonden!
  • Die ze inpassen in hun eigen proces of ‘workflow’. ‘Probleem’ opgelost.

Vervolgens voeg jij 3 maanden of een jaar later een nieuwe mogelijkheid toe. Als die niets wijzigt aan de workflow van die persoon, en op het eerste gezicht zijn bestaande ‘probleem’ niet nog beter oplost, gaat hij deze niet gebruiken.

Bij volwassen producten zal dit vaker gebeuren. Bij een nieuwer product kan het een signaal zijn dat je de gebruikerswensen misschien nog niet goed kent. Dan is er werk aan de winkel.

Rembrandt’s Nachtwacht is in een 44,8 gigapixel foto vastgelegd. Die kun je vanaf vandaag in z’n geheel online bekijken.

Nachtwacht van Rembrandt

Rijksmuseum:

Het Rijksmuseum publiceert vandaag de grootste en meest gedetailleerde afbeelding die ooit van een kunstwerk is gemaakt op zijn website. Het is mogelijk zo ver in te zoomen dat de verfstreken en zelfs de pigmentdeeltjes in de verf van De Nachtwacht zichtbaar worden.

Om deze foto te kunnen maken heeft het imagingteam van het Rijksmuseum onder leiding van datascientist Robert Erdmann 528 foto’s van De Nachtwacht gemaakt, 24 rijen van 22 foto’s. Deze zijn met behulp van neural networks digitaal aan elkaar genaaid. De afbeelding bestaat uit in totaal 44,8 gigapixels (44.804.687.500 pixels). De afstand tussen de pixels is 20 micrometer (0,02 mm). Dit stelt de wetenschappers in staat het schilderij op afstand zeer nauwkeurig te bestuderen. De foto wordt ook gebruikt om alle toekomstige verouderingsprocessen in het schilderij nauwkeurig bij te kunnen houden.

In een interview met BBC Worklife legt Gianpiero Petriglieri hoe dat komt:

Video chats mean we need to work harder to process non-verbal cues like facial expressions, the tone and pitch of the voice, and body language; paying more attention to these consumes a lot of energy.

Het laten vallen van stiltes is een ander probleem. Bij normale conversaties hoort dat, maar bij videobellen denk je direct dat er iets met de verbinding aan de hand is. En:

It also makes people uncomfortable. One 2014 study by German academics showed that delays on phone or conferencing systems shaped our views of people negatively: even delays of 1.2 seconds made people perceive the responder as less friendly or focused.

Wat het extra lastig maakt voor beroepen waar het opbouwen van een vertrouwensband belangrijk is: verkoper en account managers, en diplomaten.

Update 13-05: Harold Jarche maakt in ‘Zoom is not the problem — meetings are’ een belangrijk punt:

In meetings, bloody meetings I highlighted age-old problems with business meetings, which I learned about in the 1980’s and which continue today. Meetings should have an objective, a clear format, and be run by a competent person to facilitate the process. Most importantly there must be a clear reason why the meeting is necessary in the first place. Quite often, an alternative would be more effective than calling a meeting — e.g. one-on-one conversation, email, wiki, blog, discussion thread, etc.

Zie ook: Liberating meetings.