ChatGPT: Warum reden alle darüber?
La ChatGPT wurde am 30. November veröffentlicht markierte eine neue Stufe in der Entwicklung von Sprachverarbeitungstechnologien. Es ist auf jeden Fall das erste Mal, dass ein KI-System, das direkt aus der Forschung hervorgegangen ist, eine solche Begeisterung auslöst: Zahlreiche Artikel sind in der Fach-, aber auch in der Publikumspresse erschienen. ChatGPT (oder OpenAI, das Unternehmen, das ChatGPT entwickelt, oder beides) sind auch heute noch ein ständiger Trend auf Twitter.
Warum so ein Echo? Sind die Fähigkeiten von ChatGPT eine Abkehr von früheren Technologien, die Text generieren können?
ChatGPT kann chatten
ChatGPT hat eindeutig einen qualitativen Sprung ermöglicht: Es ist in der Lage, auf oft relevante Weise fast jede Anfrage in natürlicher Sprache zu beantworten. GPT2, dann GPT3 - die von OpenAI entwickelten Vorgänger-Sprachmodelle - waren bereits sehr gut darin, Text aus wenigen Wörtern oder Sätzen zu generieren, die als Primer (das sogenannte "Prompt") gegeben wurden: Wir sprachen oft von "Papageien" (stochastische Papageien), wie vorgeschlagen Emily Bender, und viele andere Forscher Kritik dieser Techniken. Tatsächlich könnte man sagen, dass diese Systeme Text aus Satzfetzen produzierten, die aus den ihnen zur Verfügung stehenden immensen Korpora entnommen wurden ... auch wenn dieses Bild des Papageis relativiert werden muss: Die Systeme wiederholen Auszüge nicht Wort für Wort, sondern produzieren im Allgemeinen eines Originaltextes durch Aufgreifen, Paraphrasieren, Kombinieren von Elementen aus verschiedenen Korpora.
ChatGPT greift diese Eigenschaften auf, aber der „Chat“-Teil (Dialog) fügt eine völlig andere Dimension hinzu und ist oft scheinbar umwerfend.
Das System erzeugt nicht mehr nur einen Absatz aus einem eingegebenen Satz. Er ist jetzt in der Lage, sowohl einfache als auch komplexe Fragen richtig zu beantworten, er kann Argumentationselemente liefern, verschiedene Sprachen sprechen, Computercode analysieren oder produzieren, unter anderem.
Wenn Sie beispielsweise gefragt werden, ob sich zwei Charaktere treffen konnten, kann das System die Daten ermitteln, die ihrer Existenz entsprechen. Vergleichen Sie diese Daten und leiten Sie eine Antwort ab. Das ist für einen Menschen trivial, aber kein System konnte bisher solche Fragen so präzise beantworten, ohne hochspezialisiert zu sein. Über die Sprache hinaus kann ChatGPT auch bereitstellen Elemente des mathematischen Denkens (aber er liegt oft falsch) Und Computercode analysieren im Besonderen.
Aus dieser Sicht ist ChatGPT seinen Konkurrenten einen Schritt voraus.
ChatGPT, ein geschlossenes System
Zur Funktionsweise des Systems schwer mehr zu sagen, da OpenAI trotz seines Namens geschlossene Systeme entwickelt. Das heißt, der verwendete Computercode (Quellcode) ist nicht verfügbar und die Forschung im Zusammenhang mit ChatGPT bleibt im Moment weitgehend ein Betriebsgeheimnis – auch wenn es offensichtlich istandere Mannschaften arbeiten an ähnliche Systeme, ebenfalls basierend auf Deep Learning. Wir haben also eine Vorstellung davon, was von OpenAI verwendet wird.
Andere Unternehmen haben ein offeneres Modell beibehalten, zum Beispiel Meta mit Arbeit bei FAIR, in der Regel offen und auf großen Konferenzen auf diesem Gebiet veröffentlicht. Aber allgemeiner sehen wir zunehmend eine Schließung der Forschung. Zum Beispiel, während Apple immer ein Entwicklungsmodell hatte privat und sehr geheim, Deepmind hatte ein offenes Modell und ist es wahrscheinlich etwas weniger, jetzt, da das Unternehmen unter der Kontrolle von Google steht.
Das ChatGPT-System selbst könnte kommerziell werden: OpenAI wird von Microsoft finanziert der beschließen könnte, eines Tages den Zugang zum System zu schließen, wenn es in seinem Interesse ist.
Indem Sie ChatGPT testen, tragen Sie (kostenlos) dazu bei, es zu verbessern
In der Zwischenzeit profitiert OpenAI von der enormen Bekanntheit, die sein Tool bringt, und auch von allen Benutzerinteraktionen damit. Wenn ein Benutzer meldet, dass eine Antwort nicht gut ist, oder das Tool bittet, seine Antwort unter Berücksichtigung eines zusätzlichen Elements neu zu formulieren, sind dies so viele Informationen, wie das System speichert und wiederverwenden kann, um seine Antwort beim nächsten Mal auf die gestellte Anfrage zu verfeinern oder auf eine ähnliche Anfrage. Durch das Testen von ChatGPT, wir arbeiten kostenlos für OpenAI !
Um auf das System selbst zurückzukommen, der Dialogteil macht daher die Stärke und Besonderheit von ChatGPT aus (im Vergleich zu GPT3 zum Beispiel). Es ist kein „einfaches“ Sprachmodell mehr, das Texte „kilometerweise“ generieren kann, sondern ein echtes Dialogsystem. Dieser hat wahrscheinlich von Millionen oder Milliarden von Beispielen profitiert von Menschen beurteilt, und die aktuelle Phase, in der hunderttausende Nutzer nahezu kostenlos mit dem System „spielen“, lässt es noch zu, es kontinuierlich zu verbessern, da alle Interaktionen selbstverständlich aufgezeichnet und dafür genutzt werden.
Es ist jetzt recht einfach, auf Korpora von Milliarden von Wörtern zuzugreifen, um ein Sprachmodell vom Typ „GPT“ zu entwickeln, zumindest für Sprachen, die im Internet weit verbreitet sind.
Aber die Daten, die die Entwicklung von ChatGPT (Dialoge, Interaktionen mit Menschen) ermöglicht haben, sind nicht öffentlich, und das gibt OpenAI einen erheblichen Vorteil gegenüber der Konkurrenz.
Beispielsweise hat Google andere Daten, die aber zweifelsohne auch für diese Art von System nutzbar sind – zumal Google schon seit einigen Jahren ein solches entwickelt Wissensgraph die Antworten mit besserer Zuverlässigkeit als ChatGPT generieren könnte. Insbesondere die Analyse von Abfragesequenzen aus Googles Suchmaschine könnte wertvolle Hinweise zur Steuerung der Interaktion mit dem Nutzer liefern... Aber inzwischen hat OpenAI ChatGPT und nicht Google: OpenAi hat die Nase vorn.
Über ChatGPT hinaus, welche Anwendungen in der Zukunft?
In der Tat, obwohl es möglich ist ChatGPT-Limits umgehen, weigert sich das System zu erklären, wie man eine Bombe baut, erotische Geschichten produziert oder ihr Gefühle vermittelt (ChatGPT antwortet häufig, dass sie eine Maschine ist, dassie hat keine Gefühle oder Persönlichkeit). Offensichtlich hat sich OpenAI um seine Kommunikation gekümmert. Das Unternehmen hat auch äußerste Sorgfalt darauf verwendet, das System zu „panzern“, damit es die meisten Fallstricke vereiteln kann, die diese Art von Anwendung in wenigen Stunden ruinieren können, wie dies häufig bei Systemen der Fall ist, die für die breite Öffentlichkeit zugänglich sind.
Wir können zum Beispiel Meta zitieren, die im vergangenen November musste sein System namens „Galactica“ zwei Tage, nachdem es online gestellt wurde, zurückziehen. Die Galactica war im wissenschaftlichen Bereich ausgebildet und darauf ausgelegt, Forschern Dienstleistungen anzubieten. Er wurde zuerst vorgestellt als in der Lage, wissenschaftliche Arbeiten automatisch aus einer Eingabeaufforderung heraus zu schreiben…bevor das Unternehmen klarstellte, dass es sich offensichtlich nur um eine redaktionelle Hilfe handelte. Aber diese unglückliche Kommunikationsstrategie löste eine Kontroverse aus, die Meta dazu zwang, die Galactica schnell vom Netz zu nehmen.
Umgekehrt ist ChatGPT immer noch online und weckt immer noch genauso viel Leidenschaft bei einem großen Publikum. Es bleiben jedoch Fragen: Welche Auswirkungen wird ChatGPT haben? Welche Anwendungen werden daraus abgeleitet? Und welches Wirtschaftsmodell strebt das Unternehmen OpenAI (und Microsoft, sein Hauptinvestor) an?
Thierry Poibeau, DR CNRS, cole normale supérieure (ENS) - PSL
Dieser Artikel wurde von neu veröffentlicht Das Gespräch unter Creative Commons Lizenz. Lesen Sie dieOriginalartikel.
