Debatte: Kann künstliche Intelligenz Menschen in Trauer unterstützen?

Die Debatte über ChatGPT und generative KIs erholt sich weiter, durch die neuen Anwendungen, die es nur wenige Monate nach seiner Einführung generiert. In einem aktuellen Dokumentarfilm des Sondergesandten zu France 2 (27. April 2023) wurde eine Anwendung vorgestellt, die GPT-3 verwendet und es dem Benutzer ermöglicht, einen Dialog mit vermissten Personen nachzubilden.

„Projekt Dezember (Simulate the Dead)“ ist zweifellos ein extremer Fall der Verwendung eines Konversationsagenten aus GPT-3, verrät uns aber viel über das Fehlen von Maßstäben sogenannter westlicher Gesellschaften, um Trauer auf kollektive Weise und in einem zeitlichen Rahmen zu ermöglichen, wie es Zivilisationen vor uns getan haben.

Chatten Sie mit unseren lieben Verstorbenen

„Projekt Dezember“ ermöglicht es jedem, für 10 Dollar ein Konto zu eröffnen und mit einem (patentierten) Programm für künstliche Intelligenz zu chatten, das die Worte einer verstorbenen Person für maximal hundert Austausche und eine Dauer von einer Stunde simuliert.

Dazu müssen Sie einen langen Fragebogen ausfüllen, der aus zwei Hauptabschnitten besteht: Identität der Person (Name, Spitzname, Daten, Orte, Berufe und ggf. sogar der Name des Hundes), Persönlichkeitsmerkmale (in einer sehr kurzen Beschreibung beschrieben). binärer Weg: Bsp.: sicher/selbstbewusst/stabil vs. besorgt/nervös/gestört), dem ein Textauszug hinzugefügt wird, der von diesen verstorbenen Personen erstellt wurde.

Der Bericht vonKorrespondent zeigt so einen Mann, der gerade seine Mutter verloren hat und seinem synthetischen Avatar täglich Fragen stellt, Fragen, die er ihr vor ihrem Tod nicht stellen konnte.

Für die Zwecke des Berichts organisiert der Ersteller der Anwendung in Begleitung des Journalisten auch einen Dialog mit dem Gesprächspartner über dem Grab des amerikanischen Philosophen, Dichters und Naturforschers Henry David Thoreau Er nutzte eines seiner berühmtesten Zitate: „Die beste Regierung ist die, die am wenigsten regiert“, ganz im Einklang mit seiner libertären Ideologie, immer für „weniger Regierung“ zu plädieren – eine Ideologie, die auch stimmt auch das des Silicon Valley.

Über die Anwendung künstlich zu den möglichen toxischen Verwendungen des Tools „Project December“ befragt, antwortet der simulierte Avatar von Thoreau, dass die gesamte Verantwortung beim Benutzer liege, wie im Fall eines Automobilherstellers, der nicht für das Verhalten von Bösem verantwortlich gemacht werden könne Fahrer.

Eine Missachtung des Trauerprozesses?

Le technologischer Solutionismus so genannt von der Forscher Evgeny MorozovIn seiner disruptiven Dynamik scheint es jeden Gedanken wegzufegen, der auch nur im Geringsten über die psychischen oder kulturellen Konsequenzen einer solchen Behandlung der Beziehung zu den Toten diskutiert wird.

Er verachtet die anthropologischen Fragen von trauernde Prozess und all das Wissen über diesen Prozess, das sowohl durch die Psychologie als auch durch das Studium der Traditionen entwickelt wurde.

Wenn die Psychoanalyse Trauer als einen psychischen Prozess betrachtet, durch den es einem Menschen gelingt, sich von der vermissten Person zu lösen und diesem Verlust einen Sinn zu geben, tragen die Totenfeste in alten Traditionen zu einem ähnlichen Prozess bei, um dem Leben einen Sinn zurückzugeben.

Nehmen Sie das Beispiel des Tages der Toten in Mexiko: Er dauert zwei Tage und besteht aus dem Besuch des Grabes, in dem die Verstorbenen der Familie ruhen, einem Essen rundherum und Musik. Je nach Fall wird die ganze Nacht über eine Mahnwache organisiert. Zu diesem Anlass sind die Friedhöfe voller Familien, einer großen Menge orangefarbener Blumen und Kerzen. All dies sorgt für eine besonders lebendige Atmosphäre. Familien stellen zu Hause auch vorübergehend einen Altar mit den Porträts der Verstorbenen, Blumen, Lebensmitteln, Kerzen usw. auf.

Aus diesen Ritualen ergeben sich drei soziale und psychische Dimensionen:

1. das Totenfest – die Trauer – ist eine kollektive Einladung,

2. Der gesuchte Kontakt zum Verstorbenen hat nichts Spirituelles, wir stellen keine konkreten Fragen

3. Das Totenfest hat eine genau festgelegte Dauer.

Diese drei Aspekte helfen, die Sorge zu verstehen, die der individuellen und kollektiven psychischen Gesundheit von Gesellschaften gewidmet wird. Die Erinnerung an die Toten wird in einem Rahmen sozialer Begegnungen und Protokolle verwirklicht, die zur Verankerung im Leben beitragen.

Eine Trauer ohne Vermittler

In unseren westlichen Gesellschaften haben das Christentum und die Therapien diesen Trauerprozess in bereits abgeschwächter Form übernommen. Christliche Rituale neigen dazu zur Neige – Im Jahr 2018 wünschen sich 48 % der Franzosen eine religiöse Zeremonie, wenn sie sterben – obwohl der Priester auch für Ungläubige weiterhin eine wichtige Vermittlerrolle spielt. Die Therapeuten erledigen diese Arbeit gegen Bezahlung, während das medizinische Personal in der Lage ist, diese Momente der Trauer weit über seine Pflichten hinaus zu bewältigen.

Im Gegensatz dazu scheint die App „Projekt Dezember“ keine Verantwortung dafür zu übernehmen, Menschen mit Gesprächen, die die Gedanken des Verstorbenen simulieren, in eine Einzelbeziehung zu versetzen. Wenn es tatsächlich eine Form der Vermittlung gibt – in diesem Fall die der künstlichen Intelligenz –, geht sie über jeden kollektiven Rahmen hinaus und birgt die Gefahr, den Raum der Fantasien zu vergrößern.

Jeder bleibt seinem Leid, seinen Ängsten überlassen, die der Gesprächspartner mit immer sehr banalen Antworten abblocken oder bestärken muss. Der Benutzer sagt im Bericht von ausKorrespondent erzählt von seinem gewöhnlichen Leben oder drückt seiner Mutter seine Gefühle aus. Er redet mit ihr, als ob sie nicht gestorben wäre, was bei seinen Kindern die Angst auslöst, dass er in dieser „Beziehung“ gefangen bleibt.

Bei diesen Übergangsriten müssen die Worte jedoch sorgfältig ausgewählt werden, um einen Platz zu finden, seinen eigenen und den des Verstorbenen. Aus diesem Grund werden in allen Traditionen Vermittler mobilisiert. Auch wenn der Benutzer nicht getäuscht wird und die Anwendung ihn dazu ermutigt, sich auszudrücken, tendiert sie dazu, menschliche Vermittler ohne Sicherheitsnetz zu eliminieren: eine riskante Art, Priester, Schamanen und Therapeuten zu „überbewerten“ ...

Die notwendige Zeit der Stille

Bei Ritualen oder Trauertherapien sind Zeiten der Stille unerlässlich. Rituale legen einen bestimmten Zeitpunkt für die Trauer oder das Gedenken an den Verstorbenen fest und befreien den Alltag von dieser Bindung. Die GPT-3-basierte KI lässt den Benutzer nie schweigen, sie ist ein reueloser Redner, eine Antwortmaschine. Sie ist nicht in der Lage, ein tiefes Zuhören zu begleiten, sondern dreht sich, auch in einer Schleife, um die Abwesenheit, die unerträgliche Leere, die im Grunde das größte Drama der Trauer ist, zu kompensieren.

Die Einzelhaft in einem simulierten Dialog, der auf ein paar realistischen Hinweisen unter Verwendung probabilistischer statistischer Modelle der Sprache basiert, hat etwas Obszönes: Es verstärkt unsere kommerziell geförderten Tendenzen, in einer „falschen“ Welt zu leben, die auf artikulierten Erzählrahmen basiert Werbecodes.

Wieder einmal sind es die Artefakte (Schnittstellen und Algorithmen), die einen eklatanten Mangel an Intersubjektivität, sozialer Bindung und Dynamik authentischen Austauschs füllen sollen. Diese Ersatzgegenstände werden jedoch im Trauerfall kritisch und sollten nicht leichtsinnig behandelt werden. Konversationsagenten vom GPT-Typ profitieren jedoch von der Unfähigkeit unserer sogenannten rationalen Gesellschaften, Anleitung zu einer Frage zu geben, die für die menschliche Seele so grundlegend ist. wie der Anthropologe Benedict Anderson betonte.

Bewerbungen wie Project December spiegeln eine anti-institutionelle Laissez-faire-Haltung wider, die in allen Silicon Valley-Firmen durch ihren Slogan „Rough Consensus and Running Code“ zu finden ist, ein Ausdruck von John Perry Barlow in seinem Manifest für die Unabhängigkeit des Cyberspace von 1996.

Nach dieser Doktrin basieren Entwicklungsentscheidungen für Anwendungen, Standards und Dienste auf einem vagen Konsens zwischen den Beteiligten und die Produktion von Code darf niemals aufhören, was disruptive Innovationen ermöglicht, deren soziale und kulturelle Folgen nicht vorhersehbar sind.

Diese Entwurzelung der KI gegenüber gesellschaftlichen und organisatorischen Prinzipien und ihr Anspruch, auf der Grundlage der Kraft ihrer alles optimierenden Wahrscheinlichkeitsberechnungen alles neu zu begründen, finden sich hier in diesem Spiel mit dem Geist der Toten. Wir jonglieren mit den Beziehungen zu den Toten, während wir mit Worten jonglieren.

Wie soll dieser unverantwortliche „laufende Code“ reguliert werden, da er so einfach zu reproduzieren ist und die Grenzen der Staaten keineswegs ausreichen? seine sofortige Einführung in allen Ländern einzudämmen, ohne Respekt vor bestehenden Rechtsvorschriften?

Nur große institutionelle Gruppen, die auch große Märkte wie Europa sind, verfügen über die notwendige Macht, alle diese KIs und ihre Anwendungen zu zwingen, eine „vorherige Genehmigung für das Inverkehrbringen“ zu beantragen, wie dies für die meisten Industrieprodukte, von Lebensmitteln bis hin zu, der Fall ist Medizin, einschließlich Automobil. ICH'IA-Gesetz wird auch in Europa validiert die Biden-Administration Diese anthropologischen Interessen müssen bei ihren Regulierungsversuchen berücksichtigt werden, da sogar unsere Beziehungen zu den Toten von ihnen beeinflusst werden können, während sie für unsere konstitutiv sind menschliche Sensibilität.

Dominique Boullier, emeritierter Universitätsprofessor für Soziologie. Forscher am Zentrum für Europäische Studien und Vergleichende Politikwissenschaft, Sciences Po et Rebecca Alfonso Romero, Doktorand in Kulturgeographie, Sorbonne Universität

Dieser Artikel wurde von neu veröffentlicht Das Gespräch unter Creative Commons Lizenz. Lesen Sie dieOriginalartikel.

Bildnachweis: Shutterstock/Sheri Armstrong