KI: Ist das Ziel zum Mittel geworden?

In ihrer Arbeit,Künstliche Intelligenz ist keine technologische Frage„(Éditions de l’Aube), Laurent Bibard, Leiter Management und Philosophie bei ESSEC, und Nicolas Sabouret, Professor an der Universität Paris-Saclay, wo er die Graduiertenschule für Informatik und digitale Wissenschaften leitet, betonen: „Es gibt.“ Kein Problem mit künstlicher Intelligenz, es gibt nur das Problem unserer Erwartungen an das, was wir selbst geschaffen haben.“ Demonstration mit einem Auszug, den wir auf The Conversation France erneut veröffentlichen.

Auch wenn es uns schwerfällt, es zuzugeben, ist die Tendenz in unserer Gesellschaft eher technikaffin. Trotz gewisser Widerstände, die in der Forderung nach „weniger Technologie“ und „mehr Menschen“ zum Ausdruck kommen, geht die allgemeine Tendenz dahin, dass die Gesellschaft immer mehr „technologisiert“ wird, ohne unbedingt kollektiv über die Gründe nachzudenken, warum dies der Fall ist. Und das führt uns zu einer Situation, in der wir die Maschinen sehr oft erneuern und um jeden Preis kalkulieren, also in eine Menge Umweltverschmutzung erzeugen. [...]

Man muss bei diesen sehr teuren und verschmutzenden Berechnungsinstrumenten einerseits die Berechnungen unterscheiden, die mit dem kollektiven Ziel des Fortschritts für die Gesellschaft durchgeführt werden – sei es von Forschern oder von Unternehmen, die versuchen, für das Gemeinwohl zu arbeiten gut – andererseits die individuellen Nutzungen, die mitunter unter diese moderne Sklaverei fallen können.

Mode und Verbreitung von Fotos von Kätzchen weiter soziale Netzwerke sind aus ökologischer Sicht sehr kostspielig, da der wirtschaftliche Gewinn ausschließlich auf Werbeeinnahmen basiert. Im Gegenteil: Während der Covid-19-Pandemie ermöglichten Rechenzentren die Simulation und das Verständnis der Ausbreitungswege der Krankheit sowie die Verfolgung der Variantenentwicklung auf unbestreitbar effiziente Weise.

In beiden Fällen (Werbung und Forschung zu Covid-19) wird all dies durch die Algorithmen von ermöglichtIntelligenz (IA). Das sind also auch diese algorithmes, deren Verwendung wir in sozialen Netzwerken kritisieren, die es uns ermöglicht haben, die Pandemie in zwei Jahren zu überwinden, mit einer Zahl von Opfern, die trotz allem begrenzt bleibt – zehnmal weniger beispielsweise als die Spanische Grippe zu Beginn des XX^e Jahrhundert. Dank der Technologie konnten wir eine möglicherweise katastrophale Situation relativ gut kontrollieren. Dies geschah mit diesen sehr umweltschädlichen Rechenzentren […].

Wir müssen daher einen Unterschied machen zwischen dem Foto eines Kätzchens, das wir ins Internet stellen, und Technologien im kollektiven Interesse des Gemeinwohls zur Verfügung gestellt werden, um die Frage nach dem Verhältnis zu Technologien unmittelbar auf der Ebene der Moral- und Politikphilosophie zu problematisieren. Hier zeigt sich erneut, dass die Technologien an sich kein Problem darstellen. Es ist die Beziehung, die wir zu ihnen haben, die ein Problem darstellt, in Bezug auf unsere Erwartungen, in Bezug auf die Anpassung an Gruppen, in Bezug auf Mode und so weiter.

Funktionalismus

Wir können die Frage, wie wir gerade gesehen haben, auf der Ebene der Moralphilosophie und der politischen Philosophie problematisieren, aber wir können sie auch auf der Ebene problematisieren, die wir als „erkenntnistheoretisch“ bezeichnen können, das heißt, die die Solidität unserer Philosophie betrifft Wissen. Zu diesem Thema gibt es eine sehr grundlegende Überlegung eines wenig bekannten Philosophen namens Jacob Klein. Er stellt fest, dass die Entwicklung der mathematischen Physik auf der Grundlage der Algebra seit der Renaissance die Wissenschaften zu einem Fortschritt führt zwangsläufig ihre eigenen Methoden anstreben. Er schreibt etwa so:

„Die Alten hätten sich diese Methode nie zum Ziel gesetzt.“

Er meint damit, dass der Entwicklung moderner Wissenschaften die Idee zugrunde liegt, dass die Methode ein Ziel ist. Die Idee, dass die Funktionsweise gewissermaßen das Ziel der Forschung ist. Und wenn an dem, was er sagt, etwas Wahres dran ist, dann ist es wichtig zu wissen, wie man davon wegkommt, um die Forschung nur als Mittel zu einem anderen Zweck als der Forschung selbst zu nutzen, die nicht dazu da ist, sich selbst zu dienen, sondern sich selbst zu dienen Sie dienen dem Leben in der Gesellschaft, dem Gemeinwohl.

Dies überträgt sich auf unser konkretes Leben, auf das soziale Leben, durch das, was in der Soziologie Funktionalismus genannt wird. Funktionalismus ist eine Herangehensweise an Organisationen, die sehr überzeugend aufzeigt, dass eine Organisation immer das Risiko eingeht, sich selbst für ihre eigenen Zwecke zu nutzen.

Die große Entmachtung

Ein bemerkenswertes Beispiel dafür gibt es gleich zu Beginn des Films Flug über ein Kuckucksnest von Miloš Forman, mit Jack Nicholson. Die von Forman zu Beginn des Films gezeigte Szene ist ein Hinweis auf die Schwierigkeit, mit der wir es hier zu tun haben. Es findet zu einer Zeit statt, in der sich Patienten in einer psychiatrischen Klinik eigentlich ausruhen sollen. Und wir sehen, dass das Pflegepersonal die Patienten ganz subtil nervt, anstatt sie zu beruhigen. Somit sind die Betreuer wieder nützlich: Wir rufen sogar die Krankenträger, um Nicholson in seine Zwangsjacke zu stecken.

Wir lachen darüber, weil es ein Film ist, aber das ist leider tragisch wahr und kommt in allen Kontexten mehr als häufig vor: Anstatt das Funktionieren der Struktur zu ermöglichen, sich in den Dienst der Benutzer zu stellen, agieren die Schauspieler in einer solchen dass ihre Funktionsfähigkeit in ihrer Relevanz bestätigt wird. Mit anderen Worten: Wir halten das Problem aufrecht, weil wir die Antwort darauf sind. Und es kann sein, dass das von uns diskutierte Problem seine Relevanz verloren hat oder sogar obsolet geworden ist, keine Bedeutung mehr hat oder sogar nie eine hatte ...

Systemverzerrungen dieser Art sind ein echtes Problem in unserer Welt. Und Technologien spielen eine zunehmend zentrale Rolle im Getriebe. Sie werden zum Selbstzweck, die Rechenkapazitäten von Computern, KI usw. zu verbessern, unabhängig von den Interessen, die dies für den Menschen, die Gesellschaft oder das Gemeinwohl mit sich bringen mag.

Wir stehen also wieder einmal vor einem grundsätzlich menschlichen Problem. Eine interessante Möglichkeit, es auszudrücken, besteht darin, zu sagen: Wenn wir uns in Systemtheorien flüchten, indem wir nicht zugeben, dass es eine Verantwortung von Individuen gibt, und daher davon ausgehen, dass Menschen und Individuen in den Systemen untergehen, werden alle von der Verantwortung entbunden , indem sie de facto das Spiel einer in den Systemen ertrunkenen Menschheit spielt, in jedem System.

Theorien, die nur auf dem systemischen Aspekt des Funktionierens beharren, tragen zu unserer Entfremdung bei, dazu, dass wir zu Zahnrädern in Maschinen werden. Wir werden zum Mittel der Maschinen, weil wir uns einbilden, von den Systemen beherrscht zu werden.

Laurent Bibard, Professor für Management, Inhaber des Edgar Morin Chair in Complexity, ESSEC et Nikolaus Sabouret, Computer Lehrer, Universität Paris-Saclay

Dieser Artikel wurde von neu veröffentlicht Das Gespräch unter Creative Commons Lizenz. Lesen Sie dieOriginalartikel.

Bildnachweis: Shutterstock / SomYuZu