Elon Musk und tausend Experten fordern eine Pause in der KI-Entwicklung zum Schutz der Menschheit
Während der ChatGPT-Chatbot sich weiterentwickelt und ins Gespräch kommt, äußern Hunderte von Experten auf dem Gebiet der künstlichen Intelligenz in einem offenen Brief ihre Besorgnis und fordern eine sechsmonatige Pause bei der Erforschung leistungsfähigerer Tools als ChatGPT4. Sie stellen fest, dass einige KI-Systeme potenziell eine ernsthafte Bedrohung für die Gesellschaft und die Menschheit darstellen, insbesondere aufgrund der Unberechenbarkeit dieser Werkzeuge, selbst für ihre Entwickler, und der Risiken für die Arbeitnehmer.
In den letzten Jahren hat sich die künstliche Intelligenz in einem halsbrecherischen und beunruhigenden Tempo entwickelt und ist den Risiken, die in Science-Fiction-Werken hervorgehoben werden, gefährlich nahe gekommen. Elon Musk, Mitbegründer und ehemaliges Vorstandsmitglied von OpenAI, dem Unternehmen, das später ChatGPT entwickelte, warnte am 3. Dezember vor den Risiken des Prototyps. In einer Nachricht auf Twitter, dieschrieb der Milliardär :
„ChatGPT ist erschreckend. Wir sind nicht weit von einer gefährlich mächtigen KI entfernt.“
Weniger mächtig als sein Nachfolger, der kurz darauf, am 14. März, erschien. An diesem Tag brachte OpenAI seine neueste Version des Agenten ChatGPT4 auf den Markt, der nach Angaben des Unternehmens präziser ist und Bilder interpretieren kann. Das Unternehmen schlug es vor, indem er es bejahte dass der Agent „kreativer und kollaborativer als je zuvor ist. Er kann kreative und technische Schreibaufgaben wie Songwriting, Drehbuchschreiben oder das Erlernen des Schreibstils des Benutzers generieren, bearbeiten und mit Benutzern iterieren.“
Auf dem World Government Summit in Dubai im vergangenen Februar Musk hatte angerufen „Regeln oder Vorschriften zur Kontrolle der Entwicklung von KI“ zu entwickeln, eine Analogie zum Transport oder zur medizinischen Sicherheit herstellend.
Tanz das Schreiben vom 28 Zur Unterzeichnung geöffnet und auf der Website des Future of Life Institute veröffentlicht, ist der Gründer von Tesla und SpaceX eine von Hunderten Stimmen, die eine Pause in der KI-Forschung fordern. Die Wahl der Medien ist nicht unbedeutend, Musk ist einer der Berater des Instituts, der es sich zum Beruf macht, die existenziellen Risiken anzuprangern, die KI für die Menschheit darstellt, und fordert, „transformative Technologie zum Wohle des Lebens und abseits extremer Großrisiken zu führen“. .
Auch wenn viele der Unterzeichner des Schreibens in ihrer Kritik an ChatGPT einen Interessenkonflikt haben, insbesondere weil sie in konkurrierenden Unternehmen von OpenAI und Microsoft arbeiten, deren Vorsprung ungeheuerlich ist, so ist ihre Kritik dennoch legitim und besorgniserregend.
Die Unterzeichner sagen, sie glauben, dass „die Menschheit durch KI eine blühende Zukunft genießen kann“ und sprechen davon, dass sie „einen KI-Sommer genießen“ werden, mit Systemen, die „zum größtmöglichen Nutzen für alle“ entwickelt wurden, und möchten der „Gesellschaft“ eine Chance geben, sich anzupassen.“ Aber das ist so Dies ist nur unter der Bedingung möglich, dass so gehandelt wird, als ob „die Gesellschaft andere Technologien mit möglicherweise katastrophalen Auswirkungen auf sie eingestellt hat“.
Zum Abschluss der Metapher fordern sie eine Pause auf der Grundlage des Vorsorgeprinzips:
„Lasst uns einen langen KI-Sommer genießen und nicht unvorbereitet in den Herbst stürzen.“
Ein Risiko für die Menschheit: das Fehlen von Kontrolle und Reflexion
Dieser Rückgang könnte dadurch beschleunigt werden, dass es derzeit keine Möglichkeit gibt, die KI-Entwicklungen vollständig zu kontrollieren. Die Autoren des Briefes geben an, dass mit Menschen konkurrierende KI-Systeme wahrscheinlich eine tiefgreifende Bedrohung für die Gesellschaft und die Menschheit darstellen. Als Beweis dafür verweisen sie auf die umfassende Forschung, die „von den wichtigsten KI-Laboren anerkannt“ wird.
Im Hinblick auf die in entwickelten Grundsätze 2017 auf der Asilomar-Konferenz zu künstlicher Intelligenze (koordiniert vom Future of Life Institute) sagen sie: „Fortgeschrittene KI könnte eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen und sollte mit der notwendigen Sorgfalt und den notwendigen Ressourcen geplant und verwaltet werden.“
Trotz dieser Grundsätze „existiert dieses Maß an Planung und Management nicht“. Sie weisen darauf hin, dass sich Labore in den letzten Monaten „in einen unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe verwickelt haben, die niemand – nicht einmal ihre Schöpfer – zuverlässig verstehen, vorhersagen oder kontrollieren kann“.
Solche Risiken werden in Science-Fiction-Werken erwähnt, die oft den Vorzug haben, ethische Fragen aufzuwerfen, insbesondere im Hinblick auf das Verhältnis zwischen Technologie und politischer Macht, aber auch von Denkern wie Jacques Ellul oder Georges Bernanos. Der erste, ein Historiker, Soziologe und protestantischer Theologe, war begeistert von den Beiträgen der Technologie, die es beispielsweise ermöglicht, zu reisen und „Bilder aus aller Welt zu empfangen“:
„Du hast also ein freies Universum vor dir.“
Aber der Autor der Werke „Das Technikersystem“ oder „Der technologische Bluff“ schätzt, dass das Auto beispielsweise jedes Jahr drei Millionen Pariser dazu drängte, in den Urlaub an die Küste des Mittelmeers zu fahren, wie eine Masse, ohne über ihre Bewegung nachzudenken:
„In einer [technischen] Gesellschaft wie unserer ist es für einen Mann sehr schwierig, Verantwortung zu übernehmen.“
Ellul erwähnt die Begründungen des Leiters des Nazi-Lagers Bergen-Belsen während der Nürnberger Prozesse, wonach er keine Zeit gehabt habe, an die Sterbenden zu denken, weil er sich mit den technischen Sorgen der Öfen beschäftigt habe. Immer leistungsfähigere technologische Werkzeuge führen dazu, dass der Mensch trotz seiner Vorteile selbst zum Instrument dessen wird, was Mittel hätte sein sollen.
Nicht weniger warnt der katholische Schriftsteller Georges Bernanos in seiner Vorahnung „Frankreich gegen Roboter“, veröffentlicht im Jahr 1947, in dem erklärt wird, dass die Hauptgefahr das Fehlen einer Reflexion über die Technik sei, insbesondere mit diesen relativ berühmt gewordenen Worten:
„Die Gefahr liegt nicht in der Vervielfachung der Maschinen, sondern in der ständig wachsenden Zahl von Menschen, die von Kindheit an daran gewöhnt sind, nur das zu begehren, was Maschinen geben können.“
Warnt lange im Voraus vor dem Erscheinen der KI und davor, dass diese Macht den Menschen in den Hintergrund drängt und ihn sogar in den Rang der Nutzlosigkeit treibt.
Ein Risiko für Informationen und den Arbeitsmarkt
Bernanos stellte „die Zivilisation der Maschinen, die die der Quantität ist“ der „der Qualität“ entgegen.
Eine Sorge, die von den Unterzeichnern des Briefes geäußert wird, die die Tatsache beobachten, dass „zeitgemäße KI-Systeme heute auf menschlicher Ebene für allgemeine Aufgaben konkurrenzfähig werden“. Sie stellen die grundlegende Frage für die Zukunft der demokratischen Gesellschaft:
„Sollten wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Lügen überfluten? Sollten wir alle Jobs automatisieren, auch die erfüllendsten?“
Dies ist ein Warnsignal, das auf sehr aktuelle Weise dem ähnelt, was Paul VI. bereits anprangerte 1967 seine Enzyklika Populorum Progressio, wobei daran erinnert wird, dass die Technologie im Dienste des Menschen stehen sollte.
In Punkt 20 der Enzyklika betonte der Papst: „Wenn das Streben nach Entwicklung immer mehr Techniker erfordert, erfordert es noch mehr weise Männer mit tiefer Reflexion auf der Suche nach einem neuen Humanismus, der es dem modernen Menschen ermöglicht, sich selbst zu finden, selbstbewusst.“ die höheren Werte Liebe, Freundschaft, Gebet und Kontemplation.“
Ein Anliegen, das angesichts der Schwierigkeit, die Designer haben, ihre leistungsstärksten KI-Tools perfekt zu beherrschen, eine besondere Bedeutung erhält. Es gibt zahlreiche Techniker, aber die moralische Reflexion wurde zu sehr vergessen, was dazu führte, dass die Entwicklung weiterhin schlecht geplant ist.
Zu den Folgen gehört, dass die künstliche Intelligenz den Menschen bedroht, während das „Programm zur Steigerung der Produktion“, wie Paul VI „Er selbst ist derjenige, der für sein materielles Wohlergehen und seinen moralischen Fortschritt verantwortlich ist.“
Die Enzyklika warnte mit folgenden Worten vor der Technisierung, die die Gesellschaft bereichern soll:
„Zu sagen: Bei der Entwicklung geht es in der Tat sowohl um sozialen Fortschritt als auch um Wirtschaftswachstum. Es reicht nicht aus, den gemeinsamen Reichtum zu steigern, damit er gerecht verteilt wird. Es reicht nicht aus, Technologie zu fördern, denn die Erde ist humaner.“ zu bewohnen."
Die Aussage wird durch die jüngste Studie von Goldman Sachs, die am 26. März veröffentlicht wurde, bestätigt, was darauf hindeutet 300 Millionen Arbeitsplätze könnten weltweit durch den Einsatz von KI verloren gehen, also 18% der Masse.
Bedenken, die von den Autoren des Briefes geteilt werden, die grüßen Offene AI-Erklärung vom 24. Februar „Irgendwann kann eine unabhängige Überprüfung erforderlich sein, bevor mit der Schulung zukünftiger Systeme begonnen wird.“ Als Schlussfolgerung aus dieser Erklärung erfahren sie, dass es sich nur um ein vages Versprechen handelt und schreiben:
„Deshalb fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate auszusetzen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht möglich ist.“ schnell umgesetzt werden, sollten die Regierungen eingreifen und ein Moratorium verhängen.“
Jean Sarpedon
