Qu'est ce que GPT-3 d'OpenAI ?

par Korben -

GPT-3, vous connaissez ? Non, ça ne sent pas mauvais. C’est un modèle de données de langage utilisable avec OpenAI qui se compose de 175 milliards de paramètres que le réseau neuronal se paluche durant son petit entraînement.

Le résultat : La possibilité de générer automatiquement des textes comme s’ils avaient été écrits par des humains grâce au deep learning.

C’est mon futur de chômeur que j’entrevoie et ça me réjouit !

GPT-3 peut donc générer n’importe quel type de texte (en anglais) mais également des tablatures de guitare, ou du code informatique. On peut par exemple produire du code HTML avec ce truc simplement en décrivant en langage courant ce qu’on attend de lui.

Par exemple, en écrivant : “Je veux un bouton qui ressemble à un petit coeur, un titre en grand qui dit Cliquez-ici et un champ pour obtenir l’email”, hop, vous aurez un joli formulaire qui ressemble à ce que vous lui aurez demandé.

Ça y est, je vois vos yeux qui s’illuminent de bonheur. Ou de frayeur (Pigiste et développeurs, cœur sur vous).

Cela dit, GPT-3 n’est pas exempt de biais un peu moche. Évidemment, comme ça s’inspire du vrai monde et de vrais textes, le modèle produit les mêmes horreurs que certains humains. Voici un exemple relevé par Jérôme Pesenti :

https://twitter.com/an_open_mind/status/1284487376312709120
Ce n'est donc pas parfait. Mais c'est tellement humain.

Voici un autre exemple qui permet de générer du code à partir d’une simple description.

Je me vois bien dans le futur demander à GPT-3 de me générer automatiquement des articles sur tel ou tel sujet, puis de les corriger / compléter à la main, pour ensuite retourner profiter de la vie.

Voici encore un exemple qui permet de répondre à email, simplement en spécifiant une liste de points.

Il y a d’autres exemples par dizaines sur ce compte Twitter, celui-là ou encore ici sur ce site.

Et si vous voulez mettre les mains dans le cambouis, l’API est accessible ici, sur inscription (y’a une liste d’attente).

Bref, tout ça pour dire que je trouve ça vraiment cool et que ça va nous ouvrir pas mal de possibilités sur les interactions entre les humains et les algos (genre chatbot) mais aussi de nouveaux outils merveilleux pour nous mâcher le boulot, qu’on soit journaliste, développeur, designer ou… modeste blogueur ;-) .