Ein Schleifstein, kein Orakel

Es gibt eine alte Frage, kann eine Maschine denken?, , die seit Kurzem nicht mehr allein Philosophen beschäftigt, sondern jeden, der morgens ein Textfeld öffnet und ein Sprachmodell etwas fragt. Und die ehrliche Antwort auf diese Frage ist unbequemer, als beide Lager Ihnen verkaufen wollen. Die Propheten sagen: Es denkt, es wird bald übermenschlich, machen Sie mit oder verlieren Sie den Anschluss. Die Leugner sagen: Es ist ein aufgemotzter Papagei, Trickserei, nichts dahinter. Beide verkaufen Gewissheit, und Gewissheit verkauft sich nun einmal besser als Zweifel. Keiner von beiden verkauft Ihnen die Wahrheit.

Die Wahrheit liegt in der unbequemen Mitte, und sie ist brauchbarer als beide Extreme. Diese Systeme sind wahrhaft verblüffend und wahrhaft nützlich; sie sind auch wahrhaft begrenzt und machen Fehler mit ungerührter Miene. In einem gewissen Sinne verstehen sie vieles; in einem anderen Sinne fehlt ihnen das Fundament, die unmittelbare, leibhaftige Bindung an die Welt, die Menschen haben und sie nicht. Sie besitzen, um es bildhaft zu sagen, den Schatten des menschlichen Wissens, nicht die Sonne selbst. Sie wissen, wie Menschen über den Geschmack von Salz schreiben; gekostet haben sie ihn nie.

Die falsche Frage und die richtige

Die Frage „denkt es wirklich?" erweist sich als die falsche Frage, nicht weil sie uninteressant wäre, sondern weil sie unentscheidbar ist und Sie in der Praxis keinen Schritt weiterbringt. Die fruchtbarere Frage lautet: Wie arbeiten Sie gut mit ihm zusammen? Was gehört der Maschine, und was Ihnen? Der Maschine: das schnelle Verarbeiten gewaltiger Textmengen, das Mitdenken, das Knüpfen von Verbindungen, das Widersprechen, der erste Entwurf, die zehnte Variante, die geduldige Erklärung um zwei Uhr morgens. Ihnen: das Urteil, die Verantwortung, die unmittelbare Bindung an Menschen und Welt, die moralische Abwägung und das letzte Wort.

Ein Sprachmodell ist ein hervorragender Denkpartner und ein schlechter Chef; ein brillanter Lehrling und ein gefährlicher Autopilot. Es ist nicht dann am besten, wenn Sie ihm glauben, sondern wenn Sie es nutzen, um schärfer zu denken, und seine Antworten anschließend nachprüfen. Ein Widersacher, der nie müde wird, ein Spiegel, der zurückredet. Kein Orakel. Ein Schleifstein.

Warum diese Unterscheidung alles ist

Die Gefahr liegt nicht in dem, was die Maschine kann, sondern in dem, was wir damit tun, wenn wir vergessen, wo ihre Grenze liegt. Wer das Ergebnis blind übernimmt, ersetzt sein eigenes Denken durch das eines Systems, das mit Überzeugung Unsinn produzieren kann. Wer das Ergebnis als Rohstoff nutzt, als Ausgangspunkt, um darauf aufzubauen, dagegenzuhalten, sich daran zu schärfen, , vervielfacht das eigene Vermögen, ohne es aus der Hand zu geben. Der Unterschied zwischen diesen beiden Haltungen ist der Unterschied zwischen einem Werkzeug und einer Krücke.

Ein Gedanke zum Mitnehmen: Wenn ein System Ihnen das nächste Mal eine Antwort gibt, fragen Sie nicht „stimmt das?", sondern „wie überprüfe ich das?". Das Erste macht Sie abhängig. Das Zweite macht Sie schärfer. Die Maschine ist der Schleifstein; das Messer, und die Hand, die es hält, bleiben Sie.